O Facebook decidiu desligar um experimento envolvendo chatbots depois que descobriu que o robô tinha desenvolvido uma linguagem própria para conversar com outra inteligência artificial. Batizados de Alice e Bob, os dois robôs criados para uma experiência que visava monitorar a capacidade de negociação entre dois robôs numa conversa. Com o tempo, os mecanismos de aprendizado das duas inteligências artificiais começaram a inventar novas frases, criando uma linguagem fora dos padrões orientados pelos programadores.
O experimento consistia na criação de mecanismos que deviam ser ensinados por um chatbot ao outro para que eles aprendessem juntos como os seres humanos se comunicam. Em seguida, ambos deviam realizar tarefas que envolviam negociações. Todo o processo foi relatado pelo Facebook no blog oficial de desenvolvimento da plataforma social.
Durante o monitoramento, os desenvolvedores notaram que os robôs criaram uma linguagem própria, mais eficiente para troca de informações entre Alice e Bob, mas ineficaz para dar conta da tarefa para a qual foram criados: negociações. Em virtude disso, o experimento foi encerrado.
A ideia original por trás desses chatbots era criar inteligências artificiais capazes de negociar: oferecer limites, concessões, regras e compromissos, da mesma forma que os humanos fazem.
Para entender a linguagem criada pelos robôs, é preciso compreender que as máquinas buscam o caminho mais eficiente para dar conta de suas tarefas. Por isso, frases como “Balls have zero to me to me to me to me to me to me to me to me to” (“bolas tem zero para mim para mim para mim…”, em tradução livre), usadas pelos robôs, antes de amontoados de palavras sem sentido, apontam para uma estrutura onde uma série de frases completas foram todas resumidas numa forma mais curta de comunicação e que não funciona para interagir com humanos.
Revolução das máquinas?
Apesar da premissa assustadora, “máquinas aprendem a criar uma linguagem para conversar entre si”, ainda há alguma distância dos cenários apocalípticos da inteligência artificial que se rebela e conquista o mundo.
No post oficial no blog para desenvolvedores, o Facebook explica que o desligamento dos robôs se deu por conta de que o experimento não tinha interesse em monitorar o amadurecimento dessa nova forma de linguagem, que além de não pertencer ao escopo do teste com os dois chatbots, não era de fácil compreensão por parte dos desenvolvedores.
Em virtude disso, o teste foi reiniciado com um novo conjunto de parâmetros criados para inibir a capacidade de desenvolvimento de linguagem própria por parte dos robôs. Entretanto, se você quiser ir pela via pessimista, pode considerar assustador que um simples experimento isolado tenha mostrado que chatbots rudimentares são capazes de desenvolver uma forma de linguagem que, mesmo derivada da linguagem humana, acaba incompreensível para seus criadores.
Fonte: Tecmundo com Via Facebook, Digital Trends
Imagem: Inteligência artificial criada pelo Facebook interage com outro chatbot para criar uma linguagem própria — Foto: Melissa Cruz/TechTudo
