A Apple anunciou que a próxima atualização do iOS vai trazer uma mudança importante para corrigir os erros nos resumos de notificações gerados pela Apple Intelligence.
A decisão vem depois de uma série de falhas em que o sistema distorceu informações de notícias, o que acabou gerando polêmica e irritando grandes veículos, como a BBC e o New York Times.
Resumos que saíram do controle
A Apple Intelligence tem se envolvido em gafes preocupantes ao tentar simplificar notificações de notícias.
Um dos casos mais comentados foi quando a IA notificou que Luke Littler havia vencido o Campeonato Mundial de Dardos antes mesmo da final acontecer.
Outro erro que chamou bastante a atenção aconteceu ao afirmar que o tenista “brasileiro” Rafael Nadal havia assumido ser gay, quando, na verdade, o sistema interpretou errado uma matéria que se referia a um outro jogador de tênis.
Esses erros não passaram despercebidos. A BBC criticou publicamente a Apple, cobrando mais responsabilidade na forma como a IA lida com notícias:
“É essencial que a Apple corrija esse problema com urgência, pois isso já aconteceu várias vezes. Como o veículo de notícias mais confiável do mundo, o público precisa confiar nas informações e no jornalismo publicados em nosso nome, inclusive nas notificações.”
O New York Times também foi vítima de uma falha grave, quando o Apple Intelligence enviou uma notificação afirmando que o primeiro-ministro de Israel, Benyamin Netanyahu, havia sido preso — o que era completamente falso.
A desculpa de ser “beta”
A Apple se defende, dizendo que a sua IA está ainda em fase beta e, portanto, espera-se que erros aconteçam. Porém, é o tipo de resposta que esperaríamos de qualquer outra empresa, menos da Apple.
Claro que para testar a Apple Intelligence, é preciso ativar o recurso e aceitar os termos, sendo avisado de que na fase beta problemas podem acontecer. Porém, o marketing da Apple está atualmente batendo forte na sua IA, fazendo muita gente querer ativar o recurso sem se preocupar com as “entrelinhas”.
Então, para uma grande parte dos usuários que ativaram, quando vêem uma notificação da BBC sobre uma notícia, a tendência é achar que é o veículo jornalístico que está informando aquilo, e não a inteligência artificial.
Para tentar recuperar a confiança do público, o iOS 18.3 vai trazer uma novidade importante: as notificações reformuladas pela Apple Intelligence serão claramente identificadas.
Isso significa que os usuários saberão quando o conteúdo de uma notificação foi modificado pela IA, o que deve ajudar a evitar confusões e desinformação.
A Apple também informou que continuará ajustando o sistema e pediu para que os usuários reportem notificações com resumos imprecisos, facilitando a melhoria do recurso ao longo do tempo.
As críticas sobre a Apple Intelligence
A decisão de ajustar a Apple Intelligence veio após forte pressão pública, principalmente de organizações como a Repórteres Sem Fronteiras, que chegou a pedir o banimento total do uso de IA para reformular notificações de notícias.
A principal preocupação é que, ao tentar simplificar as informações, o sistema tem distorcido fatos importantes, o que pode comprometer a confiança nos veículos de imprensa.
O site The Verge, por exemplo, reuniu uma série de erros cometidos pela IA da maçã, desde notificações de notícias mal interpretadas até mensagens pessoais e alertas de dispositivos domésticos inteligentes.
