Em “Exterminador do futuro”, uma das franquias mais emblemáticas da ficção científica dos anos 1980, o mundo enfrentaria, num futuro distante, uma rebelião das máquinas, conscientes de seu poder e protagonismo no planeta. Esta ficção distópica, em maior ou menor grau, permeia o imaginário dos seres humanos desde muito antes, obviamente, e segue impulsionando toda sorte de previsões apocalípticas.
Os avanços tecnológicos da inteligência artificial, por exemplo, têm deixado os mais alarmistas de cabelo em pé. Seria o ChatGPT, novo espantalho a ser batido, o apocalipse da vida humana na terra?
Essa ferramenta nada mais é do que um gerador de textos que usa como fonte principal o grande universo de materiais escritos que já existem na rede mundial de computadores. Através da inteligência artificial e do que a ferramenta "aprende" no bate papo com humanos, ela analisa padrões para criar composições a partir de palavras e frases que já existem.
Ou seja: estamos falando de uma ferramenta tecnológica, utilizada pelos humanos com algum fim. Claro que não posso deixar de levantar algumas reflexões, baseadas em alguns dilemas relacionados a estes possíveis usos.
Dilemas éticos
Um dos dilemas éticos mais significativos é o viés algorítmico. Os algoritmos são treinados em grandes conjuntos de dados que podem conter viés racial, de gênero, religioso e outros tipos de preconceitos. O resultado disso pode ser desde a perpetuação e até mesmo a ampliação dos preconceitos, levando a discriminação e injustiças sociais.
Algoritmos de recrutamento de emprego, por exemplo, podem ser tendenciosos em relação a candidatos de determinadas origens étnicas ou de gênero, levando a desigualdades na contratação.
Um segundo dilema ético é a privacidade e a proteção dos dados. A IA depende de grandes quantidades de dados para funcionar efetivamente, muitas vezes incluindo dados sensíveis e pessoais. A coleta, armazenamento e uso desses dados levantam preocupações sobre a privacidade e a segurança das informações pessoais dos usuários. A falta de regulamentação adequada e a má gestão dos dados podem resultar em violações de privacidade e em usos indevidos das informações, como a venda de dados para fins comerciais ou manipulação comportamental.
O terceiro dilema ético que posso mencionar é a responsabilidade sobre as tomadas de decisão. Com a crescente automação de processos e a tomada de decisões autônomas por parte da IA, surge a questão de quem é responsável quando algo dá errado. Em situações em que a IA é usada em veículos autônomos, por exemplo, quem é culpado em caso de acidente? O motorista, o proprietário do veículo, o fabricante do veículo ou o desenvolvedor do software de IA?
Além disso, há preocupações éticas em relação ao impacto da IA no mercado de trabalho. A automação poderia, de fato, levar à substituição de trabalhadores humanos por máquinas em muitos setores? Isso resultaria na perda de empregos e no deslocamento de trabalhadores.
Finalizo levantando mais um ponto: o potencial uso da IA para fins maliciosos, como criar deepfakes ou imagens convincentes, como a fotografia do Papa Francisco de casacão estiloso andando por alguma rua de Roma. Sem contar a disseminação de discursos de ódio e narrativas falsas que podem causar danos significativos à sociedade.
Entre Hamlet e o ChatGPT
“Ser ou não ser? Eis a questão”
Dizia Hamlet em uma profunda reflexão no famoso monólogo da tragédia escrita por Shakespeare, onde ele questiona a existência humana.
Hamlet coloca-se em um confronto com a inevitabilidade da morte, refletindo se a vida humana tem algum propósito ou significado em face dessa inevitabilidade. Ele se pergunta se a vida é apenas uma série de eventos sem sentido ou se há algum propósito maior a ser cumprido.
Embora a frase "ser ou não ser" trate dessa existência humana e seus dilemas, ela também pode ser aplicada à inteligência artificial. Sendo uma criação humana, ela foi desenvolvida para desempenhar tarefas específicas e aumentar a eficiência em vários setores da sociedade.
No entanto, assim como Hamlet questiona o propósito da vida humana, muitos especialistas questionam o propósito da existência da IA, uma criação humana que, portanto, não pode ser vista como tendo uma experiência consciente ou uma perspectiva existencial.
Hamlet é um personagem que questiona sua própria existência e consciência, e passa a maior parte da peça tentando decidir qual a melhor ação a ser tomada diante das circunstâncias que o cercam. Ele é um ser humano com livre-arbítrio e capacidade de reflexão, e suas ações são movidas por suas próprias escolhas e convicções.
A inteligência artificial, por outro lado, é um produto da engenharia de software, que segue um conjunto de regras e algoritmos programados para desempenhar tarefas específicas. Embora possa parecer que a inteligência artificial toma decisões por conta própria, na verdade ela segue uma lógica pré-determinada e não tem capacidade de questionar sua própria existência ou fazer escolhas baseadas em emoções ou intuições.
Assim como Hamlet, a inteligência artificial “enfrenta” (ou gera) questões éticas e morais, como o uso correto e responsável de seus algoritmos e a possibilidade de causar danos inadvertidamente. Além disso, há debates sobre se a inteligência artificial poderia algum dia desenvolver a consciência e a capacidade de tomada de decisão autônoma, o que seria um marco significativo na evolução da tecnologia.
Nosso quadro reflexivo fica assim: Hamlet representa a complexidade da natureza humana e suas capacidades de escolha e reflexão; a inteligência artificial contemporânea é uma criação tecnológica com limitações e potencialidades específicas.
Texto escrito por Pablo Michel Magalhães
Escritor, historiador e filósofo baiano. Observador atento de política, cultura e signos midiáticos. Podcaster no Historiante, onde tece críticas e constrói processos educativos. Professor da educação pública no Estado de Alagoas. Autor do livro "Olhares da cidade: cotidiano urbano e as navegações no Velho Chico" (2021).
Revisão por Eliane Gomes
Edição por Felipe Bonsanto