Desafios e Aspectos Negativos da IA Generativa: Uma Análise Abrangente

Um robô com um olho luminoso digita em um smartphone. A tela do celular mostra uma conversa com textos distorcidos, simbolizando a interação entre a inteligência artificial e a comunicação humana. -  Imagem gerada por IA, criada com ChatGPTo e DALL-E 3. 

Sempre que trago uma discussão sobre a IA generativa, gosto de destacar meu entusiasmo em relação a seu uso na acessibilidade, que já vem trazendo muitos produtos e ferramentas que possibilitam uma qualidade de vida melhor para pessoas com deficiência visual, auditiva, dentre muitas outras. Também sempre destaco meu entusiasmo no seu uso na criação de conteúdos criativos. Como uma ferramenta que possibilita as pessoas colocarem sua criatividade em prática de forma independente e sem ficar preso a necessidade de investimentos gigantes.

Se tenho uma ideia legal de um vídeo ou curta, posso criá-lo no formato de um filme ou animação. Se tenho uma ideia de música, posso colocá-la em prática, se tenho uma ideia de jogo, também posso fazê-la. É sempre importante ressaltar que a qualidade de qualquer produto gerado por IA não se comparar com a de um profissional experiente, por isso para mim, ela nunca substituirá esses profissionais, mas servirá como uma ferramenta para auxiliar na produção e na criatividade humana. Seja nas mãos de um profissional que usará a IA como base apenas para gerar ideias, ou nas mãos de um leigo que quer apenas criar um protótipo e tirar uma ideia do papel, é preciso reconhecer que a IA pode se tornar uma ferramenta de valor. A IA generativa, pode criar conteúdos como textos, imagens, músicas e até códigos, tem visto avanços rápidos e adoção generalizada nos últimos anos. Embora a tecnologia tenha um imenso potencial, ela também apresenta vários desafios significativos e aspectos negativos que merecem conhecimento e uma consideração cuidadosa.

Viés e Discriminação

Uma das principais preocupações com a IA generativa é sua propensão a perpetuar e amplificar os vieses presentes em seus dados de treinamento. Esse é um problema clássico dos sistemas inteligentes treinados com grande quantidades de dados. Já que esses dados vem de nós seres humanos, e esses problemas fazem parte não apenas da história da humanidade, mas ainda da atualidade, acaba sendo um desafio evitar isso dentro dos sistemas. Esses vieses podem se manifestar de várias formas, como discriminação racial, de gênero ou socioeconômica, resultando em saídas prejudiciais e discriminatórias. Por exemplo, modelos de linguagem treinados com dados tendenciosos podem produzir linguagem discriminatória ou reforçar estereótipos prejudiciais. Abordar esses vieses requer um esforço concentrado na curadoria de dados, no treinamento de modelos e no monitoramento contínuo.

Desinformação e Fake News

A IA generativa pode produzir conteúdos altamente realistas, mas totalmente fabricados. Isso inclui textos, imagens e até vídeos, que podem ser usados para criar e disseminar desinformação. A ascensão dos deepfakes—mídias sintéticas onde a semelhança de uma pessoa é substituída realisticamente pela de outra—exemplifica esse problema. Tal tecnologia representa uma ameaça significativa à confiança pública e pode ser utilizada para influenciar a opinião pública, interferir em eleições e realizar atividades maliciosas.

Já está claro que a população no geral não está preparada para isso, vi muitos “memes” preocupantes de postagens no facebook com uma imagem de um trabalhador ou crianças fazendo esculturas e monumentos incríveis com um texto dizendo que ninguém da valor para o trabalho desse artista. Abaixo da imagem nos comentários havia muitas pessoas fazendo elogios e emocionadas com aquilo, mas com uma analise muito simples nos detalhes da imagem, para alguém que está acostumado a lidar com imagens geradas por IA, era muito fácil perceber que a imagem não era real, mas sim uma imagem gerada.

Não apenas isso, vi a mesma situação se escalando para outras redes como linkedin, com pessoas mesmo mais instruídas, não percebendo que a imagem era falsa. Em ambos os casos, as imagens não tinham a melhor qualidade que uma IA consegue gerar nesse momento, elas ainda eram simples e tinham vários detalhes estranhos que com um olhar um pouco mais atento poderiam ser sim percebidos.

Então, existe uma discussão muito importante, sobre não apenas o uso das imagens, mas como as pessoas podem ser preparadas para receber esse tipo de conteúdo e questionar antes de simplesmente acreditar.

Um cenário urbano futurista, onde câmeras de vigilância gigantes e drones monitoram a cidade. Os prédios altos e as luzes de monitoramento destacam a onipresença da vigilância, simbolizando questões de privacidade e segurança em um mundo dominado por tecnologias avançadas de inteligência artificial -  Imagem gerada por IA, criada com ChatGPTo e DALL-E 3.

Privacidade e Segurança

A capacidade da IA generativa de imitar a comunicação humana e criar personas digitais realistas levanta sérias preocupações de privacidade e segurança. Por exemplo, conteúdos gerados por IA podem ser usados para personificar indivíduos online, levando a roubos de identidade, fraudes e outros crimes cibernéticos. Além disso, os extensos dados necessários para treinar esses modelos muitas vezes envolvem informações sensíveis, que, se mal manuseadas, podem resultar em violações de dados e acesso não autorizado a dados pessoais.

Impacto no Emprego

A capacidade da IA generativa de automatizar tarefas tradicionalmente realizadas por humanos representa uma potencial ameaça para vários setores de trabalho. Profissões em redação criativa, design e atendimento ao cliente são particularmente vulneráveis. À medida que os sistemas de IA se tornam mais proficientes, há uma preocupação crescente de que eles possam substituir trabalhadores humanos, levando a um deslocamento significativo de empregos e disrupção econômica. Essa mudança exige uma reavaliação das habilidades da força de trabalho e o desenvolvimento de novos papéis que complementem as tecnologias de IA.

Além disso, eu sempre trago em minhas opiniões sobre o papel da IA como uma ferramenta profissional para melhorar a qualidade de vida e de trabalho. Mas infelizmente nem todos os profissionais e empresas vem dessa forma, o que pode trazer problemas e tentativas problemáticas da substituição da mão de obra humana.

Questões Éticas

A implantação da IA generativa levanta numerosas questões éticas. Por exemplo, quem é responsável pelo conteúdo gerado pela IA—desenvolvedores, usuários ou a própria IA? A falta de uma responsabilidade clara pode complicar as responsabilidades legais e éticas. Além disso, o uso ético da IA em processos de tomada de decisão, como em contratação ou aplicação da lei, requer uma consideração cuidadosa para evitar perpetuar os vieses existentes na sociedade. A discussão sobre a ética nesse meio da IA pode ir ainda mais longe, quando trazemos aquela ideia já falada de imitar uma pessoa viva ou não, ou até mesmo a cópia de estilo ou do trabalho de terceiros, que falaremos a seguir.

Questões de Propriedade Intelectual

A IA generativa muitas vezes utiliza obras existentes para gerar novos conteúdos, levantando questões sobre direitos de propriedade intelectual (PI). Se um modelo de IA é treinado em material protegido por direitos autorais, as saídas podem infringir os direitos dos criadores originais. Essa questão é complexa e atualmente carece de um framework legal abrangente para equilibrar a inovação e a proteção da PI. Muitas plataformas dizem já resolver essa questão, usando como dados, conteúdo de domínio publico ou até conteúdos cujo direito foi comprado ou profissionais foram contratados para produzir conteúdo para o treinamento. Porém, muitas plataformas ainda se recusam a serem transparentes sobre de onde vem seus dados de treinamento.

Qualidade e Precisão

Apesar de suas capacidades, os modelos de IA generativa não são infalíveis e podem produzir saídas imprecisas ou de baixa qualidade. Erros em conteúdos gerados por IA podem ter sérias implicações, particularmente em áreas que requerem alta precisão, como medicina, finanças e serviços jurídicos. Garantir a confiabilidade e a precisão das saídas de IA continua sendo um desafio crítico.

Esse é um problema que é facilmente compreensível quando se entende como de fato funciona uma LLM. Passamos a entender que diferente do que muitas pessoas pensam, sobre “quanto mais, melhor”, nesse caso, quanto mais dados, não necessariamente significa que fica melhor, pois os dados podem servir apenas para poluir as informações mais precisas. Nesse momento, entra a importância de conhecer mais a fundo uma LLM, e dominar no mínimo habilidades que estão popularmente sendo chamadas de Promp Engineering, uso de contexto e desenvolvimento usando API.

Dependência do Usuário e Degradação de Habilidades

À medida que as ferramentas de IA generativa se tornam mais integradas em várias aplicações, há o risco de os usuários se tornarem excessivamente dependentes delas. Essa dependência pode levar à erosão das habilidades humanas e das capacidades de pensamento crítico. Por exemplo, a dependência excessiva de IA para escrita ou resolução de problemas pode diminuir a capacidade dos indivíduos de realizar essas tarefas de forma independente, ou até mesmo de buscar uma melhora nas respectivas habilidades.

Uma ilustração que combina elementos de natureza e tecnologia, mostrando o impacto da inteligência artificial no meio ambiente. De um lado, uma floresta densa com diversos animais e, do outro, uma instalação futurista de IA com braços robóticos e drones, alguns plantando árvores e outros extraindo recursos -  Imagem gerada por IA, criada com ChatGPTo e DALL-E 3.

Impacto Ambiental

O poder computacional necessário para treinar e executar modelos de IA generativa é substancial, levando a um consumo significativo de energia e impacto ambiental. Centros de dados que abrigam a infraestrutura de IA consomem grandes quantidades de eletricidade e água, contribuindo para emissões de carbono e esgotamento de recursos. Abordar a pegada ambiental da IA envolve desenvolver modelos mais eficientes em termos de energia, otimizar hardware e adotar práticas sustentáveis.

Governança e Regulação

Uma governança e regulamentação eficazes da IA generativa são essenciais para mitigar seus riscos e garantir seu uso ético. No entanto, o ritmo rápido de desenvolvimento da IA muitas vezes supera os esforços regulatórios, levando a lacunas na supervisão. Os formuladores de políticas precisam estabelecer frameworks robustos que equilibrem a inovação com a proteção dos interesses da sociedade, incluindo privacidade, segurança e justiça. Já é possivel observar vários esforços de governos e instituições relacionados a isso, mas a velocidade com a qual o campo da IA muda e evolui, é realmente um desafio nesse meio.

Conclusão

A IA generativa representa uma tecnologia transformadora com o potencial de revolucionar inúmeras indústrias e o mundo como conhecemos. No entanto, ela também apresenta desafios significativos que devem ser abordados para aproveitar seus benefícios de forma responsável. Reconhecendo e enfrentando essas questões—viés, desinformação, privacid

ade, impacto no emprego, ética, propriedade intelectual, precisão, dependência do usuário, impacto ambiental e governança dentre muitos outros não citados—poderemos trabalhar em direção a um futuro onde a IA generativa sirva como uma força para o bem, promovendo oportunidades e a inovação enquanto protege os valores da sociedade. Conhecer e acompanhar essas principais problemáticas é de extrema importância para que possamos fazer um bom uso dessa tecnologia e não acabemos nos prejudicando como indivíduos ou sociedade.

Referências para saber mais:

KAUFMAN, Dora. O impacto da inteligência artificial no trabalho. Valor Econômico, 24 abr. 2024. Disponível em: https://valor.globo.com/opiniao/coluna/o-impacto-da-inteligencia-artificial-no-trabalho.ghtml. Acesso em: 18 maio 2024.

ROOSE, Kevin. A.I. Has a Measurement Problem. The New York Times, 15 abr. 2024. Disponível em: https://www.nytimes.com/2024/04/15/technology/ai-models-measurement.html. Acesso em: 18 maio 2024.

KAUFMAN, Dora. Novas iniciativas regulatórias: inspiração para o Brasil. Época Negócios, 24 abr. 2024. Disponível em: https://epocanegocios.globo.com/colunas/iagora/coluna/2024/04/novas-iniciativas-regulatorias-inspiracao-para-o-brasil.ghtml. Acesso em: 18 maio 2024.

The Harvard Gazette. Exploring generative AI at Harvard. Disponível em: https://news.harvard.edu/gazette/story/2024/04/exploring-potential-benefits-pitfalls-of-generative-ai/. Acesso em: 18 maio 2024.

Nature. Generative AI’s environmental costs are soaring — and mostly secret. Disponível em: https://www.nature.com/articles/d41586-024-00478-x. Acesso em: 18 maio 2024.

McKinsey & Company. A generative AI reset: Rewiring to turn potential into value in 2024. Disponível em: https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/a-generative-ai-reset-rewiring-to-turn-potential-into-value-in-2024. Acesso em: 18 maio 2024.

MIT Technology Review. Generative AI: Differentiating disruptors from the disrupted. Disponível em: https://www.technologyreview.com/2024/02/29/1089152/generative-ai-differentiating-disruptors-from-the-disrupted/. Acesso em: 18 maio 2024.