Apple App Store: Restrições de uso do ChatGPT iguais a referências a drogas e sexo

Quem traz a informação à luz do dia é o Wall Street Journal. Segundo este jornal, a Apple restringe a atualização de aplicações com tecnologia ChatGPT, à medida que crescem as preocupações com o dano potencial da IA. O que receia a gigante de Cupertino?

BlueMail + ChatGPT: Restrições de idade para usar IA?

A Apple recusou-se a aceitar uma atualização da aplicação de e-mail BlueMail que acrescenta características generativas de IA baseadas no ChatGPT, a menos que o criador lhe dê uma restrição de idade superior a 17 anos, relata o WSJ.

A atualização à BlueMail utiliza a mais recente API ChatGPT do OpenAI para ajudar a escrever e-mails usando conteúdo de e-mails anteriores e eventos de calendário. Nas comunicações enviadas à BlueMail developer Blix Inc., a equipa de revisão da App Store da Apple expressou a preocupação de que as ferramentas linguísticas alimentadas por IA possam gerar conteúdos impróprios para crianças, solicitando que a aplicação aumente a sua restrição de idade para os 17 anos ou mais, ou inclua filtragem de conteúdos.

A atual restrição de idade da BlueMail é de quatro anos ou mais. O criador insiste que a aplicação já tem filtragem de conteúdo e que a colocação de uma restrição de idade substancialmente mais elevada poderia impedi-la de atrair novos potenciais utilizadores.

Normalmente, as restrições de idade de 17 ou mais anos na App Store incluem aplicações com linguagem ofensiva, conteúdo sexual, ou referências a drogas, levando a acusações de tratamento injusto por parte do Blix. O Blix afirma que outras aplicações que promovem capacidades do tipo ChatGPT não têm restrições de idade tão rigorosas. Um porta-voz da Apple afirmou que os criadores são capazes de contestar tais decisões através do processo de recurso do App Review Board e que está a investigar a queixa do Blix.

A versão recentemente atualizada da Microsoft do Bing que inclui a funcionalidade ChatGPT tem uma restrição de idade de 17 ou mais anos na App Store da Apple, enquanto que não existe tal classificação para a versão da aplicação na Play Store do Google, o que sugere que é um requisito da Apple. Isto indica que a Apple já está a cimentar requisitos rigorosos em torno de novas aplicações de IA no meio de preocupações sobre a sua capacidade de moderar o conteúdo gerado.

A Apple parece estar largamente fora da corrida para desenvolver ferramentas generativas de IA. Enquanto a empresa realizou recentemente a sua cimeira anual de IA para funcionários, as sessões que se seguem, alegadamente centraram-se em aspetos como cuidados de saúde, privacidade, e visão informática, em vez das suas próprias tecnologias generativas de IA.