Google se junta a cientistas e cria "5 leis da inteligência artificial"

Uma colaboração entre cientistas da Google, OpenAI e Universidades de Stanford e Berkeley resultou num artigo técnico trazendo 5 questões a serem contempladas no desenvolvimento da inteligência artificial que saíram muito ao estilo adotado por Isaac Asimov na criação de suas três leis da robótica em suas ficções científicas, lá em 1942. Chris Olah, da Google Research, separou os 5 pontos destacados pelos pesquisadores num post do blog. Eles são os seguintes:

- Evitar efeitos colaterais negativos: Como podemos garantir que um sistema de IA não vai perturbar seu ambiente de maneiras negativas enquanto procura alcançar seus objetivos, por exemplo, um robô de limpeza derrubar um vaso porque ele consegue limpar mais rápido fazendo isso?
- Evitar hacking das recompensas: Como podemos evitar manipulação da função de recompensas? por exemplo, não queremos esse robô de limpeza simplesmente cobrindo sujeiras com materiais que ele não pode enxergar através.
- Fiscalização escalável: Como podemos assegurar de maneira eficiente que o sistema de IA respeita aspectos do objetivo que são muito caros para serem frequentemente avaliados durante o treinamento? Por exemplo, se um sistema de IA entende o feedback humano enquanto ele realiza uma tarefa, ele precisa usar esse feedback de maneira eficiente porque perguntar muitas vezes seria irritante.
- Exploração segura: Como nos asseguramos que um sistema de IA não vai fazer movimentos exploratórios com repercussões muito negativas? Por exemplo, talvez um robô de limpeza devesse tentar estratégias diferentes para esfregar, mas ele com certeza não deveria tentar colocar um esfregão molhado numa tomada.
- Robustez para mudanças distribucionais: Como nos asseguramos que um sistema de IA reconhece e se comporta de maneira robusta quando vai para um ambiente muito diferente do seu ambiente de treinamento? Por exemplo, heurísticas aprendidas para uma fábrica podem não ser seguras o suficiente para um escritório.

Olah afirma que a pesquisa da inteligência artificial tem recebido bastante atenção, mas há muita discussão especulativa ou hipotética. O pesquisador, acompanhado de seus colegas que fizeram o estudo, acredita que essas 5 questões são todas "de pensamento para frente, questões para pesquisa a longo prazo - problemas menores hoje, mas importantes de serem resolvidos para sistemas futuros".

 

Via: CNET Fonte: Google Research Blog
Assuntos
  • Redator: João Gabriel Nogueira

    João Gabriel Nogueira

    João Gabriel Nogueira se formou em jornalismo pela Universidade Federal de Santa Catarina (UFSC) em 2015 e curte games desde muito antes. Começou com o Master System e o gosto pelos jogos eletrônicos trouxe o gosto pela tecnologia. Escrever notícias e análises de jogos, hardware e dispositivos móveis para o Adrenaline, além de trabalho é uma alegria e um aprendizado.

Escolha sua arma:

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.