 |
| Norman, o primeiro 'psicopata AI' do mundo. Pic: MIT / Thunderbrush |
Ele compartilha seu nome com o assassino do filme clássico de Alfred Hitchcock, Psicose, e parece ter muitas das mesmas características.
Pesquisadores nos EUA revelaram Norman, a primeira "inteligência artificial psicopática (AI)" do mundo.
O projeto do Instituto de Tecnologia de Massachusetts (MIT) tem como objetivo mostrar como os algoritmos são feitos e conscientizar as pessoas sobre os perigos potenciais da IA.
Norman era "alimentado" apenas com descrições de imagens de pessoas morrendo encontradas na plataforma de internet Reddit.
Os pesquisadores então enviaram imagens de borrões de tinta, como apresentado no teste psicológico de Rorschach, para determinar o que Norman viu e comparou suas respostas às de IAs tradicionalmente treinadas.
Com uma imagem, a IA tradicional viu "um grupo de pássaros sentado em cima de um galho de árvore".
Em contraste, Norman viu "um homem é eletrocutado e pega a morte".
Com outra imagem, o AI tradicional viu "uma pessoa está segurando um guarda-chuva no ar", enquanto Norman descreveu "um homem é morto a tiros na frente de sua esposa gritando".
Uma mancha de tinta revelou que a IA tradicional via uma "foto preto e branco de uma luva de beisebol", comparada à descrição de Norman de um homem "assassinado por metralhadora em plena luz do dia".
O MIT disse que Norman "representa um estudo de caso sobre os perigos da inteligência artificial que deu errado quando dados tendenciosos são usados em algoritmos de aprendizado de máquina".
Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, que faziam parte da equipe do MIT, disseram em uma declaração conjunta: "Há uma ideia central no aprendizado de máquina: os dados que você usa para ensinar um algoritmo de aprendizado de máquina podem influenciar significativamente seu comportamento.
"Então, quando falamos de algoritmos de IA sendo tendenciosos em injustos, o culpado muitas vezes não é o algoritmo em si, mas os dados tendenciosos que foram alimentados a ele."
O falecido Professor Stephen Hawking alertou repetidamente para os perigos que cercam o desenvolvimento da IA.
Menos de seis meses antes de sua morte, o físico de renome mundial disse que a IA poderia substituir completamente os humanos se seu desenvolvimento fosse levado longe demais.
"Se as pessoas projetarem vírus de computador, alguém projetará uma IA que melhore e se replique", disse Hawking.
"Esta será uma nova forma de vida que supera os seres humanos".
Sem comentários:
Enviar um comentário