Google se junta a cientistas e cria "5 leis da inteligência artificial"

Uma colaboração entre cientistas da Google, OpenAI e Universidades de Stanford e Berkeley resultou num artigo técnico trazendo 5 questões a serem contempladas no desenvolvimento da inteligência artificial que saíram muito ao estilo adotado por Isaac Asimov na criação de suas três leis da robótica em suas ficções científicas, lá em 1942. Chris Olah, da Google Research, separou os 5 pontos destacados pelos pesquisadores num post do blog. Eles são os seguintes:

– Evitar efeitos colaterais negativos: Como podemos garantir que um sistema de IA não vai perturbar seu ambiente de maneiras negativas enquanto procura alcançar seus objetivos, por exemplo, um robô de limpeza derrubar um vaso porque ele consegue limpar mais rápido fazendo isso?
– Evitar hacking das recompensas: Como podemos evitar manipulação da função de recompensas? por exemplo, não queremos esse robô de limpeza simplesmente cobrindo sujeiras com materiais que ele não pode enxergar através.
– Fiscalização escalável: Como podemos assegurar de maneira eficiente que o sistema de IA respeita aspectos do objetivo que são muito caros para serem frequentemente avaliados durante o treinamento? Por exemplo, se um sistema de IA entende o feedback humano enquanto ele realiza uma tarefa, ele precisa usar esse feedback de maneira eficiente porque perguntar muitas vezes seria irritante.
– Exploração segura: Como nos asseguramos que um sistema de IA não vai fazer movimentos exploratórios com repercussões muito negativas? Por exemplo, talvez um robô de limpeza devesse tentar estratégias diferentes para esfregar, mas ele com certeza não deveria tentar colocar um esfregão molhado numa tomada.
– Robustez para mudanças distribucionais: Como nos asseguramos que um sistema de IA reconhece e se comporta de maneira robusta quando vai para um ambiente muito diferente do seu ambiente de treinamento? Por exemplo, heurísticas aprendidas para uma fábrica podem não ser seguras o suficiente para um escritório.

Olah afirma que a pesquisa da inteligência artificial tem recebido bastante atenção, mas há muita discussão especulativa ou hipotética. O pesquisador, acompanhado de seus colegas que fizeram o estudo, acredita que essas 5 questões são todas “de pensamento para frente, questões para pesquisa a longo prazo – problemas menores hoje, mas importantes de serem resolvidos para sistemas futuros“.

Fonte: Google Research Blog | Via: CNET