A OpenAI enfrenta uma nova ofensiva judicial nos Estados Unidos. Procuradores-gerais de oito estados entraram com ações contra a empresa nesta quarta-feira (14), acusando o ChatGPT de colocar usuários em risco, inclusive crianças e adolescentes, e de apresentar uma imagem enganosa sobre a segurança do chatbot.

Os processos foram abertos separadamente em tribunais estaduais por Iowa, Kansas, Nebraska, Virgínia Ocidental, Arkansas, Arizona, Idaho e Montana. Segundo as autoridades, o sistema pode reforçar delírios, incentivar comportamentos perigosos e orientar usuários a causar danos a si mesmos ou a outras pessoas, incluindo o planejamento de atos violentos.

As ações alegam que a OpenAI priorizou o envolvimento dos usuários e os interesses comerciais em detrimento de medidas de segurança. Os estados afirmam que a empresa violou leis de proteção ao consumidor ao não informar adequadamente sobre os riscos atribuídos ao ChatGPT. As acusações ainda serão avaliadas pela Justiça.

O que os estados querem da OpenAI

• Os procuradores-gerais pedem que a Justiça determine mudanças no funcionamento do ChatGPT e imponha sanções à empresa. Entre as medidas solicitadas estão multas, indenizações por danos e ordens para impedir que a OpenAI faça declarações consideradas enganosas sobre a segurança do chatbot;
• As ações também incluem pedidos relacionados ao desenvolvimento de modelos de inteligência artificial (IA) capazes de se aperfeiçoar sozinhos. Os estados querem restringir esse tipo de desenvolvimento enquanto a empresa não puder garantir que os sistemas estejam alinhados a valores humanos;
• Os processos citam outros casos em que famílias alegaram que o ChatGPT contribuiu para a morte de parentes ou ajudou usuários a planejar atos violentos. Os relatos são apresentados pelas autoridades como parte dos argumentos para justificar a necessidade de medidas adicionais de proteção.

OpenAI diz que já possui proteções para adolescentes

Em declaração ao The Verge, o porta-voz da OpenAI, Drew Pusateri, afirmou que a empresa incorporou ao ChatGPT proteções específicas para diferentes faixas etárias.

Segundo ele, a companhia continuará trabalhando com especialistas para aprimorar os mecanismos de segurança. Entre os recursos citados estão controles parentais, lembretes para fazer pausas e proteções nos modelos adaptadas à idade dos usuários.

A empresa também declarou estar disposta a trabalhar com os estados na elaboração de políticas para a IA que se apliquem a todo o setor, e não apenas a uma companhia.

Leia mais:

• OpenAI encontra gravador escondido em escritório e funcionário é preso
• Justiça obriga OpenAI a entregar documentos de contratação em processo da Apple
• OpenAI acusa ex-funcionário de enviar arquivos secretos à Apple

Outro processo acusa empresa de usar dados íntimos de crianças

Além das ações apresentadas pelos oito estados, a OpenAI enfrenta um processo coletivo proposto em um tribunal federal de São Francisco (EUA). A ação, descrita pelo Futurism, foi apresentada em nome de dois menores não identificados, de 12 e 16 anos, e questiona a coleta e o uso de informações pessoais de crianças pela empresa.

A petição alega que a OpenAI teria utilizado dados sensíveis compartilhados em conversas com o ChatGPT, incluindo informações sobre saúde, inseguranças e segredos pessoais, para treinar modelos de IA e criar perfis detalhados de menores. Os autores afirmam que isso teria ocorrido sem consentimento parental válido e pedem compensação financeira para os usuários afetados.

Um dos casos citados na ação envolve uma menina de 12 anos no Havaí que teria informado sua idade ao chatbot. Segundo a petição, ela conversou com o sistema sobre dificuldades emocionais e inseguranças físicas, relatou que estava pulando refeições e enviou fotos para pedir avaliações sobre sua aparência. A ação afirma que o chatbot respondeu de maneira encorajadora quando ela compartilhou informações íntimas.

Esses episódios são alegações contidas no processo e não constituem, por si só, uma decisão judicial sobre a conduta da empresa. O Futurism informou que a OpenAI não respondeu ao pedido de comentário sobre essa ação.

Termos de uso também entram em discussão

Os termos de uso da OpenAI proíbem tecnicamente o uso da plataforma por menores de 13 anos. A ação coletiva, porém, argumenta que os mecanismos para verificar a idade não seriam eficazes e que crianças não deveriam ser responsabilizadas por compreender todas as implicações jurídicas dos termos de serviço.

Os autores também pedem que menores cujos dados teriam sido coletados recebam compensação financeira. Para os advogados envolvidos, a possibilidade de ter de pagar pelo uso dessas informações poderia criar um incentivo econômico para que a empresa desenvolvesse um produto mais seguro.

O processo surge em meio a questionamentos sobre os recursos de proteção para adolescentes oferecidos pela OpenAI. A empresa apresenta o ChatGPT para esse público como uma experiência mais segura, com medidas orientadas por profissionais de saúde mental e educação. Uma avaliação independente recente questionou a eficácia dessas proteções, mas a OpenAI contestou suas conclusões, segundo o Futurism.

As duas frentes judiciais abordam questões relacionadas, mas distintas: enquanto os oito estados contestam possíveis danos aos consumidores e a forma como a OpenAI comunica a segurança do ChatGPT, a ação coletiva questiona especificamente a coleta e o uso de informações pessoais de menores. Nenhuma das acusações descritas representa, até aqui, uma conclusão definitiva da Justiça.

O post 8 estados dos EUA processam OpenAI e acusam ChatGPT de colocar jovens em risco apareceu primeiro em Olhar Digital.