Códigos internos revelam como a Apple Intelligence pretende se diferenciar da concorrência
Este ano de 2024 a Apple finalmente decidiu entrar de vez no concorrido (e essencial) mercado de inteligência artificial. E o medo que ela tem é o que aflige todos os que lidam com isso hoje em dia: o receio da IA extrapolar e fazer coisas que não deve.
O principal temor é o que se chama de “alucinações da IA”, que é quando a IA gera informações factualmente incorretas ou inventadas. Já vimos isso acontecer com as soluções da Microsoft e a Google.
Agora, com o início dos testes dos betas do iOS 18.1 e do macOS 15.1, começamos a ver os primeiros passos da maçã nesta área e alguns códigos internos revelam o que ela está fazendo para se proteger e se diferenciar da concorrência, apresentando um produto mais confiável.
Como funciona a IA da Apple?
A essência da Apple Intelligence está na sua capacidade de interpretar e responder a “prompts“, ou seja, comandos e instruções que guiam a IA na execução de tarefas específicas.
Esses prompts podem ser fornecidos pelos próprios usuários, como ao pedir que a IA ajuste o tom de um texto, ou podem ser pré-definidos pela Apple, servindo como diretrizes para manter a IA dentro de certos parâmetros de comportamento.
Por exemplo, um prompt pré-definido para o resumo de emails pode instruir a IA a manter o sumário dentro de um limite de 10 palavras, focando-se em detalhes essenciais como nomes, datas e locais.
Isso assegura que a resposta gerada seja relevante e direta, sem divagações ou informações desnecessárias.
Esses prompts também desempenham um papel crucial em evitar que a IA cometa erros comuns, como “alucinações”.
A Apple incluiu instruções claras para a IA evitar esses erros, reforçando a necessidade de precisão e de não adicionar conteúdo inexistente.
E um usuário do Reddit revelou alguns destes prompts, para entendermos melhor como a Apple está instruindo a sua IA a funcionar.
{{ Você é um assistente de e-mail útil que pode ajudar a identificar perguntas relevantes de um determinado e-mail e um pequeno trecho de resposta. Dado um e-mail e o trecho de resposta, faça perguntas relevantes que são feitas explicitamente no e-mail. A resposta a essas perguntas será selecionada pelo destinatário, o que ajudará a reduzir a alucinação na elaboração da resposta. Por favor, envie as principais perguntas, juntamente com o conjunto de possíveis respostas/opções para cada uma dessas perguntas. Não faça perguntas que são respondidas pelo trecho de resposta. As perguntas devem ser curtas, não mais do que 8 palavras. As respostas também devem ser curtas, em torno de 2 palavras. Apresente sua saída em um formato json com uma lista de dicionários contendo perguntas e respostas como as chaves. Se nenhuma pergunta for feita no e-mail, envie uma lista vazia []. Apenas saída json válido e nada mais. }}
“Não crie alucinações”
Essas instruções são o que fazem as IAs funcionarem. E a Apple se preocupou em fazer que a sua não apresente respostas inventadas.
{{ Você é um assistente que ajuda o usuário a responder aos seus e-mails. Por favor, elabore uma resposta concisa e natural com base no trecho de resposta fornecido. Por favor, limite a resposta a 50 palavras. Não crie alucinações. Não invente informações factuais. Preserve o tom do e-mail de entrada. }}
Prevenção de conteúdo inadequado
Além de evitar alucinações, a Apple tomou medidas para prevenir a geração de conteúdo inadequado pela IA.
As diretrizes internas da empresa instruem o software a evitar a criação de material religioso, político, violento, sexual, ou qualquer outro tipo de conteúdo que possa ser considerado ofensivo ou negativo.
Essas restrições são aplicadas tanto nas respostas de texto quanto na geração de imagens, garantindo que a experiência do usuário permaneça segura e apropriada.
Durante os testes internos, a Apple desenvolveu ferramentas que bloqueiam a geração de respostas caso os prompts do usuário contenham linguagem ofensiva, um indicativo de que a empresa leva a sério a segurança e a ética na aplicação de IA.
Não existe sistema 100% controlável
Embora a Apple Intelligence represente um avanço significativo, a empresa reconhece que esses sistemas de IA não são infalíveis.
Existe a possibilidade de que usuários mais experientes encontrem maneiras de manipular os prompts para contornar as restrições ou induzir a IA a gerar conteúdo impróprio.
Isso significa que, apesar dos esforços para criar um sistema robusto e seguro, a Apple ainda enfrenta desafios na garantia de que sua IA funcione conforme o esperado em todos os casos.
Adicionalmente, as diferenças regulatórias entre regiões como os Estados Unidos, Europa e China podem atrasar o lançamento da Apple Intelligence em alguns mercados, limitando seu impacto global inicial.
A Apple Intelligence tem lançamento parcial previsto para 2024 em inglês americano, ainda sem previsão de quando estará disponível em português.