[DIÁRIOS DA IA] As coisas ruins sobre a Inteligência Artificial Generativa

A tecnologia ainda enfrenta dificuldades para compreender o conceito de “verdade” e, muitas vezes, os modelos de IA geram informações incorretas ou “alucinações”. Além disso, a confiabilidade e a consistência dos resultados podem ser questionáveis. / Imagem: SC Inova/DALL-E

[19.07.2024]

Por Eduardo Barbosa, CEO da Brognoli Imóveis e um dos responsáveis pelo Conselho Mudando o Jogo (CMJ) em SC e RS. Escreve sobre inteligência artificial no ambiente corporativo na série “Diários de IA”

Embora a IA generativa ofereça uma série de benefícios e inovações, também apresenta desafios e preocupações significativas. Este artigo explora os impactos negativos da IA generativa, destacando questões de veracidade, confiabilidade, viés, governança e muito mais. 

A IA generativa ainda enfrenta dificuldades para compreender o conceito de “verdade”. Muitas vezes, os modelos de IA geram informações incorretas ou “alucinações”. Além disso, a confiabilidade e a consistência dos resultados podem ser questionáveis devido a viéses não explorados e dependência dos dados de treinamento, que podem ter datas de corte ou refletir preconceitos existentes. A detecção de conteúdos falsos, como deepfakes, continua sendo um desafio significativo​.

CAIXA PRETA

Os modelos de IA generativa frequentemente operam como “caixas pretas”, onde nem mesmo os pesquisadores compreendem completamente os processos internos. A interpretabilidade e a explicabilidade são limitadas, e a falta de transparência, especialmente em modelos proprietários, agrava esse problema. Isso levanta preocupações sobre a confiança e o controle sobre as decisões tomadas por esses sistemas​.

DADOS E COMPENSAÇÃO POR ENTRADA

A quantidade massiva de dados necessária para treinar modelos de IA é impressionante, muitas vezes envolvendo vastas partes da internet, incluindo materiais protegidos por direitos autorais. Isso levanta questões sobre a compensação justa e os futuros recursos de dados. Os acordos de licenciamento e a multimodalidade (capacidade de trabalhar com diferentes tipos de dados) também são áreas de preocupação​​.

DIVERSIDADE, EQUIDADE E INCLUSÃO (DEI)

A representação de dados na internet pode refletir vieses existentes, e as tentativas de mitigação podem ser desajeitadas. Além disso, a concentração de poder em poucas mãos, como grandes corporações tecnológicas, levanta questões sobre equidade e inclusão. Quais valores são refletidos nos modelos de IA e quem decide isso? A participação equitativa de diversas vozes é crucial​.

CONFIRA MAIS ARTIGOS DOS “DIÁRIOS DA IA” 

CUSTO

Os custos associados à IA generativa são significativos, incluindo dados, computação, hardware, energia e talento. As leis de escalabilidade da IA implicam que os custos de treinamento de modelos são altos, e os custos de inferência (execução de modelos) continuam sendo um fator importante. A necessidade contínua de investimentos para se manter na vanguarda pode ser um obstáculo para muitos​​.

PEGADA AMBIENTAL

O impacto ambiental dos data centers é substancial, com um consumo de energia que representa uma parte significativa do uso mundial. As necessidades de resfriamento e água para esses centros são enormes, e há uma preocupação crescente sobre se os benefícios dos investimentos em IA compensam essa pegada ecológica​.

GOVERNANÇA

A governança da IA generativa é um campo complexo e ainda indefinido. A responsabilidade de regular essa tecnologia poderosa é incerta, com tensões entre interesses privados e públicos, informações proprietárias e o desejo de transparência, além de questões de competição geopolítica. Quem deve governar, quando, onde e como são perguntas fundamentais sem respostas claras​.

INTERAÇÃO HUMANO-MÁQUINA

O impacto da IA generativa na interação humano-máquina é uma área pouco explorada, com possíveis consequências psicológicas e sociais. Questões sobre o desenvolvimento cerebral a longo prazo, aprendizado e interações sociais ainda precisam ser respondidas. Como essa tecnologia afetará a nossa forma de viver e interagir é uma questão crucial​.

IMPACTO NO MERCADO DE TRABALHO E TRANSIÇÃO SOCIETAL 

A introdução de IA generativa pode alterar significativamente o mercado de trabalho. Estudos indicam que uma grande parte da força de trabalho pode ter suas tarefas impactadas pela IA. A transição para um modelo societal que integre essas mudanças, como a Renda Básica Universal ou outros modelos inovadores, precisa ser considerada. O significado do trabalho para os indivíduos e a sociedade também está em jogo​.

Nesta linha, ao considerarmos a integração da IA generativa, é essencial que aborde não apenas os benefícios, mas também os desafios e impactos negativos. A governança ética, a mitigação de viéses, a consideração dos custos e o impacto ambiental são cruciais para uma adoção responsável. 

Como podemos liderar essa transformação tecnológica de maneira que beneficie a sociedade como um todo?

A IA generativa apresenta tanto oportunidades quanto desafios significativos. A conscientização e a abordagem desses desafios são essenciais para maximizar os benefícios dessa tecnologia transformadora. 

Neste sentido, temos  a responsabilidade de adotar uma abordagem equilibrada e ética na integração da IA generativa em seus negócios e na sociedade.

REFERÊNCIA BIBLIOGRÁFICA:  

• Altenschmidt, Janko. “The Bad Things About Generative AI“

LEIA TAMBÉM: