Por Eduardo Bonachela da Silva, Giovanna Arana Paganotti e
Luiza Borghi de Mello
A Inteligência Artificial pode dominar o mundo? Atualmente, tornou-se comum vermos em filmes e livros robôs super inteligentes, que se revoltam e fazem uma revolução contra a raça humana. Mas será que, mesmo se sairmos da ficção, ainda correríamos o risco de sermos dominados por robôs rebeldes?
Na atualidade, vive-se um período de euforia diante do avanço das Inteligências Artificiais. Existem quantidades massivas de dados acessíveis aos usuários da internet, e avanços visíveis na arquitetura de computadores permitiram que o processamento de tais dados se tornasse mais eficiente do que nunca. Em razão da evolução constante da área, a IA se tornou assunto frequente de debates contemporâneos e tema de inúmeras ficções futuristas.
Apesar de comumente retratada na ficção como tecnologia dominadora e maligna em filmes de ficção como Exterminador do Futuro, a IA se trata simplesmente de uma área da computação que busca solucionar problemas específicos. Estes se caracterizam, no geral, pelo fato de que não poderiam ser analisados por intermédio de algoritmos convencionais, ou são problemas cuja análise humana se sobrepõe à das máquinas até o momento. Dessa maneira, é capaz de prover soluções para tarefas cognitivas que demandariam um envolvimento humano.
Um exemplo de uso de IA é o sistema Watson, desenvolvido pela IBM. Através da análise de registros de pacientes com câncer, este era capaz de manter um histórico do tratamento do paciente, registrando melhoras e pioras clínicas. O Watson exemplifica o uso de uma inteligência artificial destinada ao reconhecimento de imagens. Por conseguinte, resultou em uma contribuição significativa para o diagnóstico e monitoramento da doença, os quais eram feitos exclusivamente por médicos anteriormente.
Entretanto, inteligências artificiais são facilmente encontradas em outras situações cotidianas e, por vezes, passam despercebidas. Enquanto seria fácil para um humano recomendar um filme para um amigo conhecendo seus gostos pessoais, não é tão fácil para um computador realizar tal recomendação. A escolha adotada pela plataforma de streaming Netflix foi utilizar uma IA para recomendar filmes, séries e documentários para seus usuários – fazendo uso, para isso, de dados de frequência e retenção de usuários para cada item da plataforma.
Outros usos de IA incluem assistentes pessoais virtuais, como Siri e Alexa, que foram um tema abordado no Coruja Informa de Assistente virtual inteligente e suas aplicações na sociedade. Ambas são capazes de seguir instruções fornecidas pelo usuário, como realizar buscas, enviar mensagens, adicionar lembretes e alarmes, entre outros. Para que sejam capazes de interagir e executar todas essas tarefas, utilizam machine learning, um ramo da inteligência artificial que se pauta na análise dos dados obtidos para a observação de padrões e, consequentemente, geração do aprendizado de máquina.
Não pense que, só por usar produtos que utilizem conceitos de inteligência artificial, é necessário temer com o que pode acontecer com sua família durante a noite. Existem poucos riscos conhecidos na IA e, segundo Thomas Dietterich e Eric Horvitz (2015), o maior deles são os bugs, que se referem a falhas no código de desenvolvimento do software. Quando acontecem, o sistema pode se comportar de maneira não esperada pelo desenvolvedor.
Apesar de soar estranho, esses erros são completamente comuns. Os programadores os enfrentam no cotidiano, ou seja, qualquer sistema de software apresenta falhas. Porém, alguns sistemas podem trazer maiores consequências caso um bug aconteça. Tome o exemplo de um sistema de piloto automático de um avião: logicamente, se um erro acontecer no meio do voo, muitas pessoas morreriam, portanto esses controles têm de ser muito testados antes de realmente serem usados. O mesmo vale para os sistemas de Inteligência Artificial.
Outro aspecto importante de um sistema de IA é que este interage com pessoas de todos os tipos e, ao mesmo tempo, deve conectar quais seriam as intenções desses comandos, julgando se determinado comportamento é algo normal e frequente para a maioria das pessoas. A autonomia compartilhada é um risco que faz com que os sistemas colaborativos enfrentem adversidades quanto ao bom engajamento e clareza sobre os objetivos do sistema. Trocar o controle rapidamente entre uma IA e uma pessoa é algo muito difícil de se fazer simultaneamente.
E quanto aos nossos empregos? Vamos perder tudo para os robôs no futuro? Essa questão ainda é muito delicada dentro dessa discussão. Não se trata de uma preocupação somente da área de computação, e sim algo que ultrapassa a barreira científica e vai até as políticas econômicas para garantir que os direitos e benefícios, mesmo com a produtividade da IA, sejam balanceados. Um outro ponto muito importante é a segurança. Vimos recentemente vários ataques cibernéticos como o da Renner, e a inteligência artificial, assim como outros programas, está sujeita a tais ataques.
Assim, pensar em formas de manter a segurança na utilização das IA se torna cada vez mais relevante. Grandes nomes da ciência e tecnologia como Stephen Hawking, Elon Musk, Steve Wozniak e Bill Gates já expressaram publicamente suas preocupações sobre os riscos da utilização dessa nova técnica.
Uma grande questão é entender se, no longo termo, as inteligências artificiais poderão se tornar mais inteligentes do que os próprios seres humanos. As pessoas controlam hoje a Terra não porque são a espécie mais forte, mas sim porque são a mais inteligente. Será que com novas formas mais inteligentes ainda continuaremos no controle?
Muitos acreditam que as IAs podem se tornar malignas ao ponto de simplesmente (Frabasile, Daniela) decidirem exterminar a raça humana, porém muitos pesquisadores concordam que IAs super inteligentes são improváveis de demonstrar emoções humanas, como ódio ou amor. Portanto, não existiria razão para se tornarem intencionalmente malignas.
Os perigos reais das IAs estão principalmente no desenvolvimento de tecnologias voltadas para a devastação, como armamentos automatizados e sistemas programados para matar. Nas mãos erradas, estes podem causar destruição em massa. Outro perigo seria programá-la para algo benéfico, mas ela acabar desenvolvendo um método destrutivo para atingir esse objetivo.
Mas, honestamente, quais são os reais riscos da Inteligência Artificial? Bem, temos muitos riscos que são disseminados por notícias falsas. Mitos sobre esse assunto são muito comuns, e são potencializados com sua popularidade crescente. A imagem a seguir mostra, de forma simplificada, alguns dos mais famosos mitos e os fatos sobre este tópico.
Então, pare de roer suas unhas de nervosismo, você não precisa perder seu sono durante a noite por medo da Alexa te fazer algum mal. A Inteligência Artificial não vai dominar o mundo, ou ainda está muito longe de conseguir.
Referências
DIETTERICH, T. G.; HORVITZ, E. Rise of concerns about AI: reflections and directions. Communications of the ACM, v.58, n.10, p.38-40, 2015.
Futures of Life. Benefits & risks of artificial intelligence. Disponível em: <https://futureoflife.org/background/benefits-risks-of-artificial-intelligence/>.
Bala, B. Madhu. Artificial Intelligence and its Implications for Future. Artificial Intelligence (2019). Disponível em: <https://rrjournals.com/wp-content/uploads/2019/05/474-477_RRIJM190405106-1.pdf>.
Tomasik, Brian. Artificial Intelligence and Its Implications for Future Suffering. Foundational Research Institute: Basel, Switzerland (2017). Disponível em: <https://longtermrisk.org/files/artificial-intelligence-and-its-implications-for-future-suffering.pdf>.
Kaufman, Dora. Inteligência artificial: questões éticas a serem enfrentadas. Anais do IX Simpósio Nacional ABCiber. Disponível em: <https://abciber.org.br/anaiseletronicos/wp-content/uploads/2016/trabalhos/inteligencia_artificial_questoes_eticas_a_serem_enfrentadas_dora_kaufman.pdf>.
Sichman, Jaime Simão. Inteligência Artificial e sociedade: avanços e riscos. Estudos Avançados 35.101 (2021): 37-50. Disponível em: <http://www.scielo.br/j/ea/a/c4sqqrthGMS3ngdBhGWtKhh/?lang=pt>.
ROMANI, Bruno. ‘Temo que a inteligência artificial saia do controle’, diz pesquisador do MIT. Estadão. São Paulo, p. 1-1. 07 de maio de 2021. Disponível em: <https://link.estadao.com.br/noticias/cultura-digital,temo-que-a-inteligencia-artificial-saia-do-controle-diz-pesquisador-do-mit,70003706352>.
Como a inteligência artificial poderia acabar com a Humanidade – por acidente. BBC. 31 de outubro de 2019. Disponível em: <https://www.bbc.com/portuguese/geral-50228913>.
FRABASILE, Daniela. ‘Como a inteligência artificial nos ameaça, segundo este neurocientista’. Época Negócios. Disponível em: https://epocanegocios.globo.com/Tecnologia/noticia/2020/01/como-inteligencia-artificial-nos-ameaca-segundo-este-neurocientista.html.