Apocalipse das Máquinas: Google e Oxford trabalham em "trava de segurança" para inteligência artificial

Um dos maiores medos dos entusiastas de tecnologia é que, no futuro, exista uma inteligência artificial tão potente que seja capaz de escravizar a raça humana, mas o Google e um grupo de estudantes de Oxford estão trabalhando para que o Apocalipse das Máquinas não aconteça.

Em uma pesquisa publicada recentemente, os estudantes do Future of Humanity Institute apresentaram uma tecnologia chamada "Safely Interruptible Agents" (Agentes de segurança interrompíveis, em tradução livre). O estudo descreve um mecanismo que permitiria que alguns algoritmos das Inteligências Artificiais fossem desativados ou submetidos ao controle dos seres humanos. Basicamente, é uma trava de segurança para que os humanos possam retomar o controle da IA caso ela funcione bem demais.


Aqui não, Skynet: se o projeto for bem sucedido, as inteligências artificiais poderão ser desligadas caso saiam fora do normal - e tentem dominar a humanidade, por exemplo

Apesar das pesquisas estarem avançando, os cientistas ainda se preocupam com um fator: será que a Inteligência Artificial não conseguirá driblar a trava de segurança, uma vez que é feita para ser ainda mais inteligente que os humanos? De acordo com o estudo, a ideia de impedir o funcionamento da IA poderia mudar o comportamento da tecnologia, que poderia prever interrupções futuras. Ou seja, ainda há muito trabalho a ser feito, pelo bem da humanidade.

Além de trabalhar junto com o Google, o grupo da faculdade de Oxford recebeu uma doação de US$ 11 milhões de Elon Musk, CEO da Tesla e SpaceX, para desenvolverem novas formas de segurança contra Inteligências Artificiais. Ontem, Musk declarou que pensa com cautela no desenvolvimento da tecnologia e se preocupa com o trabalho de "uma empresa" que está desenvolvendo uma Inteligência Artificial.

O trabalho dos estudantes do Future of Humanity Institute pode ser lido integralmente neste link. Para os meros mortais, basta torcer para que não hajam erros matemáticos e que as futuras IAs não se rebelem contra a humanidade.

- Continua após a publicidade -


"Sua vida inteira foi um erro matemático...Um erro matemático que eu estou prestes a consertar" - GLaDOS, do game "Portal"

 

Via: Neowin
Assuntos
Tags
  • Redator: Mateus Mognon

    Mateus Mognon

    Mateus Mognon é formado em Jornalismo pela Universidade Federal de Santa Catarina. Vencedor do prêmio SET Universitário na Categoria Reportagem Digital, atua nos sites do grupo Adrenaline desde 2014. Atualmente, colabora para os veículos com notícias, análises e artigos envolvendo tecnologia e games.

O que você achou deste conteúdo? Deixe seu comentário abaixo e interaja com nossa equipe. Caso queira sugerir alguma pauta, entre em contato através deste formulário.