A OpenAI apresentou esta terça-feira o ChatGPT for Teens, uma experiência específica para utilizadores entre os 13 e os 17 anos que incorpora novas restrições de segurança, controlos para as famílias e funcionalidades destinadas a orientar a utilização da IA para os estudos.
A principal diferença é que não será necessário que cada família procure e ative manualmente uma experiência específica para adolescentes. Quando um utilizador declara ter entre 13 e 17 anos ou quando os sistemas da OpenAI estimam que provavelmente tem menos de 18 anos, a conta passa automaticamente para a experiência ChatGPT for Teens.
Entre os indicadores utilizados para estimar a idade contam-se a antiguidade da conta, os horários habituais de utilização, os padrões de utilização ao longo do tempo e a idade declarada pelo próprio utilizador. Quando o sistema não tem confiança suficiente na estimativa, a OpenAI afirma que aplica, por defeito, a experiência destinada a menores de 18 anos.
Se um adulto for colocado incorretamente na experiência para adolescentes, pode confirmar a sua idade através de uma selfie, utilizando o serviço de verificação Persona.
Segundo o El Confidencial, o sistema deve funcionar mais como um tutor do que como uma ferramenta que fornece diretamente a solução de um exercício.
O ChatGPT for Teens inclui o já existente Study Mode, que procura conduzir o aluno até às respostas através de perguntas orientadoras, explicações estruturadas, exercícios e verificações da compreensão, em vez de simplesmente apresentar a solução.
A isto junta-se o Responsible Homework Reminder, que procura identificar situações em que o estudante parece estar a utilizar o chatbot para obter diretamente a resposta a um trabalho escolar e o encaminha para um processo de resolução passo a passo.
A experiência inclui ainda questionários, visualizações educativas e uma funcionalidade denominada Study Hours. Tanto o adolescente como os pais, quando as contas estão ligadas através dos controlos parentais, podem definir determinados períodos durante os quais o Study Mode fica ativado por predefinição.
A outra grande mudança diz respeito às regras aplicadas quando quem utiliza o ChatGPT é um adolescente. As contas colocadas na experiência para menores de 18 anos terão, por defeito, proteções reforçadas em áreas como automutilação, violência gráfica, desafios perigosos, distúrbios alimentares e conteúdos relacionados com padrões extremos de beleza.
A empresa pretende também impor limites à possibilidade de alguns utilizadores desenvolverem uma relação emocional excessiva. Na experiência destinada a adolescentes, o ChatGPT não deverá utilizar linguagem romântica dirigida ao utilizador, fomentar a dependência emocional nem apresentar-se como se tivesse sentimentos ou consciência. A intenção é reforçar a ideia de que o sistema é uma ferramenta de inteligência artificial e não um substituto para relações humanas.
Além disso, vão ser apresentados lembretes para identificar o sistema como uma inteligência artificial e que os adolescentes receberão avisos para fazer uma pausa quando passarem períodos prolongados a utilizar o serviço. A empresa também pretende mostrar avisos quando um menor tentar carregar imagens potencialmente sensíveis ou privadas.
A OpenAI desenvolveu ainda um sistema de alertas para situações delicadas. Se os sistemas detetarem possíveis indícios de que um adolescente está a pensar em magoar-se, o caso pode ser analisado por uma equipa especialmente treinada, que poderá contactar os pais por e-mail, SMS ou através de uma notificação no telemóvel, salvo se estes tiverem optado por não receber esses alertas.
A empresa afirma também estar a trabalhar em procedimentos para situações de ameaça iminente à vida, incluindo a possibilidade de recorrer a autoridades ou serviços de emergência quando não for possível contactar um progenitor.
(ZAP)