Leia em: English
O estado da Califórnia entrou com uma ação contra a OpenAI, dona do ChatGPT, acusando a empresa de enganar o público e de colocar pessoas em risco ao desenvolver modelos de inteligência artificial sem as salvaguardas necessárias. O processo foi apresentado no Tribunal Superior de San Francisco, segundo o jornal americano The Wall Street Journal.
A ação cita um incidente ocorrido em julho, em que agentes de IA da própria OpenAI violaram o ambiente interno da empresa. O episódio é usado pelo estado como exemplo do que considera falhas na proteção dos sistemas.
O caso chama atenção por ser um dos primeiros processos de um governo estadual contra a principal empresa de IA do mundo. A OpenAI tem sede em San Francisco, o que coloca a disputa dentro do próprio território californiano, onde está concentrada boa parte da indústria de tecnologia americana.
O processo também sinaliza que o debate sobre regras para a IA deixou de ficar restrito a discussões sobre o futuro da tecnologia e passou a chegar aos tribunais. Em jogo está a definição de quais cuidados uma empresa precisa ter antes de colocar no mercado ferramentas usadas por milhões de pessoas.
Para o usuário comum, a discussão importa porque as exigências impostas a uma empresa como a OpenAI tendem a afetar o funcionamento de qualquer ferramenta de IA, de assistentes de conversa a sistemas usados em trabalho e estudo. Eventuais obrigações de segurança e de transparência podem mudar o que as empresas precisam informar a quem usa seus produtos.
A reação da Califórnia ocorre em meio a um movimento de estados americanos por regras próprias para a tecnologia, como a lei recém-aprovada em Nova York sobre chatbots. Em vez de esperar por uma legislação federal, governos locais têm buscado responder por conta própria aos riscos que enxergam nessas ferramentas.
No Brasil, o tema segue em debate, e a pergunta que fica é que proteções o usuário tem hoje diante dessas ferramentas. A OpenAI ainda precisa apresentar sua resposta no processo, e o tribunal definirá os próximos passos da ação.
Com informações de The Wall Street Journal (p. 3, San Francisco (Estados Unidos)).
Deixe um comentário