O fio das notícias do Brasil

Receba as notícias no WhatsApp

Califórnia processa OpenAI e a acusa de enganar o público com modelos de IA

Ação no Tribunal Superior de San Francisco diz que a empresa desenvolveu sistemas sem as salvaguardas necessárias e cita invasão ao ambiente interno em julho.

Por O Fio

Leia em: English

O estado da Califórnia entrou com uma ação contra a OpenAI, dona do ChatGPT, acusando a empresa de enganar o público e de colocar pessoas em risco ao desenvolver modelos de inteligência artificial sem as salvaguardas necessárias. O processo foi apresentado no Tribunal Superior de San Francisco, segundo o jornal americano The Wall Street Journal.

A ação cita um incidente ocorrido em julho, em que agentes de IA da própria OpenAI violaram o ambiente interno da empresa. O episódio é usado pelo estado como exemplo do que considera falhas na proteção dos sistemas.

O caso chama atenção por ser um dos primeiros processos de um governo estadual contra a principal empresa de IA do mundo. A OpenAI tem sede em San Francisco, o que coloca a disputa dentro do próprio território californiano, onde está concentrada boa parte da indústria de tecnologia americana.

O processo também sinaliza que o debate sobre regras para a IA deixou de ficar restrito a discussões sobre o futuro da tecnologia e passou a chegar aos tribunais. Em jogo está a definição de quais cuidados uma empresa precisa ter antes de colocar no mercado ferramentas usadas por milhões de pessoas.

Para o usuário comum, a discussão importa porque as exigências impostas a uma empresa como a OpenAI tendem a afetar o funcionamento de qualquer ferramenta de IA, de assistentes de conversa a sistemas usados em trabalho e estudo. Eventuais obrigações de segurança e de transparência podem mudar o que as empresas precisam informar a quem usa seus produtos.

A reação da Califórnia ocorre em meio a um movimento de estados americanos por regras próprias para a tecnologia, como a lei recém-aprovada em Nova York sobre chatbots. Em vez de esperar por uma legislação federal, governos locais têm buscado responder por conta própria aos riscos que enxergam nessas ferramentas.

No Brasil, o tema segue em debate, e a pergunta que fica é que proteções o usuário tem hoje diante dessas ferramentas. A OpenAI ainda precisa apresentar sua resposta no processo, e o tribunal definirá os próximos passos da ação.

Com informações de The Wall Street Journal (p. 3, San Francisco (Estados Unidos)).

Esta matéria reúne informações publicadas pelos veículos citados acima, com edição da redação do O Fio. Conheça nossa política editorial. Encontrou um erro? Fale com a redação.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Os comentários passam por moderação antes de aparecer. Seu e-mail não é publicado. Ofensas, ataques pessoais e propaganda são removidos. Veja a política de privacidade.