Contente
- Disparado pela Máquina
- Automação e interrupção do trabalho
- Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
- Aplicações de Consumer Electronics
- Recuperando o controle
- Como poderia funcionar
Fonte: Artinspiring / Dreamstime.com
Leve embora:
Para que a automação trabalhe com e para a humanidade, e não contra ela, precisamos de salvaguardas e seres humanos informados com o poder de parar ou corrigir um erro no sistema.
"Errar é humano; realmente estragar as coisas exige um computador. ”William E. Vaughan fez essa observação em 1969. A transferência do controle para um sistema automatizado traz potencial para o sistema dar errado e causar sérios danos antes de ser verificado.
A automação não é nova, mas está se tornando muito mais difundida graças à integração de sistemas digitais e físicos. A vantagem da automação em escala é a grande eficiência. Mas a desvantagem de depender de um sistema de configuração e esquecimento é que alguém pode deixar de configurá-lo corretamente.
Com um sistema que simplesmente segue adiante sem intervenção e sem maneira de parar o maquinário, você pode ter efeitos destrutivos. Assim, a tecnologia pode criar o tipo de situação descrita em "O aprendiz de feiticeiro", quando o que parece facilitar a vida fica realmente fora de controle.
Disparado pela Máquina
Automação sem intervenção é o que resultou em um trabalhador de tecnologia no Reino Unido se encontrando sem emprego sem causa no ano passado. Ibrahim Diallo percebeu que seus cartões de credenciamento não estavam funcionando no trabalho e descobriu que era porque estava sem emprego. "The Machine Fired Me" é o título que ele deu à sua extensa publicação no blog sobre o evento.
Por fim, a causa do término de Diallo não foi algum tipo de avaliação do algoritmo que determinou quem deveria ser eliminado. O problema não estava no sistema, mas era um erro humano. Nesse caso, foi toda a resposta automatizada à falha de um humano em inserir as informações de renovação de contrato da Diallo.
Não é que a máquina tenha decidido que ele deveria ser demitido por algo em particular. Simplesmente executou as etapas programadas para alguém cujo status aparecia como não mais empregado. Como ele esclarece nos comentários, isso não é realmente AI, mas "script automatizado". (Para saber como a IA pode ajudar (em vez de prejudicar) nos negócios, consulte O que a AI pode fazer pela empresa.)
Automação e interrupção do trabalho
Esse tipo de efeito não é exatamente o que as pessoas imaginam ao descrever os maravilhosos benefícios que podemos antecipar em um futuro automatizado. A perspectiva otimista usual para uma mudança de tarefas, à medida que as tarefas são executadas pela automação, as tarefas serão redefinidas - e não terminadas pelos sistemas automatizados. Mas a realidade é que alguns empregos serão eliminados e as pessoas que os mantiveram não serão capazes de fazer uma transição perfeita para as novas carreiras em um setor amplamente automatizado.
A interrupção no emprego é um dos riscos mais pequenos que Elon Musk imaginou para o aumento da IA, embora sua própria visão do impacto nos empregos seja muito mais pessimista do que a de Fitzgerald. Na visão de Musk, a IA precisa de regulamentação estrita porque representa "um risco fundamental e existencial para a civilização humana".
Sem erros, sem estresse - seu guia passo a passo para criar software que muda vidas sem destruir sua vida
Você não pode melhorar suas habilidades de programação quando ninguém se importa com a qualidade do software.
Aplicações de Consumer Electronics
Apesar das credenciais tecnológicas de Musk, alguns especialistas no campo, como Rodney Brooks, que serviu como diretor fundador do Laboratório de Ciência da Computação e Inteligência Artificial do MIT e cofundou a iRobot e a Rethink Robotics, dizem que Musk está errado sobre a ameaça da IA e como a robótica realmente operar.
Em uma entrevista ao TechCrunch, Brooks indicou que é imprudente exigir regulamentação sem que a tecnologia tenha amadurecido até o ponto em que possamos identificar exatamente o que deve ser regulamentado. Ele desafiou Musk: "Diga-me, que comportamento você quer mudar, Elon?"
Brooks admitiu que os robôs trarão deslocamento de emprego. Mas ele também acha que é possível mudar o paradigma da indústria para seguir o dos eletrônicos de consumo.
O modo como ele colocou na entrevista do TechCrunch foi: “Nós temos uma tradição na fabricação de equipamentos, que possui interfaces de usuário horríveis e é difícil e você precisa fazer cursos, enquanto que na eletrônica de consumo, fizemos com que as máquinas usadas ensinassem as pessoas como usá-los. "
Foi isso que ele disse que deveria ser o objetivo de mudar a maneira como nos relacionamos com "equipamentos industriais e outros tipos de equipamentos, para fazer com que as máquinas ensinem às pessoas como usá-las".
Recuperando o controle
O que Brooks sugere pode nos apontar na direção de uma solução para o problema do erro humano que desencadeia o processo automatizado que parece sair do controle. Para se referir à desventura de Mickey em "O aprendiz de feiticeiro", o problema tudo deriva da pessoa que ativa o sistema, mas não tem como se comunicar com ele para parar ou mudar de direção.
Mas se a interface for feita de acordo com as linhas de eletrônicos de consumo, em vez dos modelos industriais tradicionais, ela poderia literalmente colocar o controle de volta em mãos humanas. Para ser realmente eficaz, a interface não deve apenas ser acessível, mas projetada para manter as pessoas informadas sobre o que está acontecendo, fornecendo dados sobre as atualizações que recebeu e quais ações foram tomadas.
Como poderia funcionar
No caso da rescisão acidental de Diallo, isso significaria que o sistema automatizado não o traria apenas para fora do sistema e, em seguida, forneceria ao seu recrutador que ele foi rescindido. Em primeiro lugar, reconheceria que a renovação do contrato não foi efetuada na data prevista. Antes de iniciar as ações de rescisão, ele ofereceria ao gerente e recrutador a atualização sobre a falta de renovação e as consequências que se seguiriam dentro do dia se nenhuma ação fosse tomada.
Esse tipo de alerta permitiria que as pessoas tomassem decisões informadas sobre deixar a automação continuar ou intervir para corrigir o erro humano que era a causa original do problema. Mas as pessoas também precisam fazer sua parte, responder ao alerta e tomar as medidas adequadas. Em outras palavras, a resposta à pergunta que Brooks colocou sobre o comportamento se aplica aos seres humanos; eles precisam ser menos passivos diante da automação. (Para saber mais sobre como humanos e máquinas podem trabalhar cooperativamente, consulte Canalizando o elemento humano: política, procedimento e processo.)
Como Diallo escreveu na seção de comentários de seu blog, a razão pela qual isso foi levado ao ponto foi que as pessoas se recusaram a ir contra a máquina:
Outra coisa que passa despercebida é que, embora todos soubessem que foi um erro humano que o desencadeou e que foi puramente um erro, eles escolheram seguir os s. É como colocar um sinal de "proibido fumar" no hospital e as pessoas respeitam o sinal em vez de usar o bom senso.
Consequentemente, as políticas que precisamos adotar para que a automação trabalhe com e para a humanidade, e não contra ela são duas: no lado da máquina, precisamos de interfaces acessíveis e informativas e, no lado humano, precisamos que as pessoas sejam com poderes para identificar quando algo não está certo e intervir para corrigi-lo.