Há cada vez mais candidatos a esconderem instruções AI nos seus CVs, para tentarem obter vantagem face aos restantes candidatos.
Depois dos currículos escritos por AI, entramos numa nova fase. Um novo tipo de técnica nas candidaturas de emprego está a ganhar destaque, com os candidatos a esconderem instruções invisíveis destinadas a influenciar sistemas de inteligência artificial utilizados no processamento e análise de currículos. Isto consiste em inserir texto em letras brancas de tamanho reduzido, que o torna invisível para os recrutadores humanos, mas que continua a ser legível por ferramentas AI.
O tema voltou a chamar a atenção depois de uma investigadora da Universidade de Stanford encontrar este tipo de conteúdo numa candidatura para um cargo de técnico de laboratório. O currículo continha comandos ocultos, ordenando o sistema de AI a aprovar automaticamente o candidato e a não revelar a existência dessas instruções.
O problema é bastante mais vasto do que se pode imaginar. A empresa de recrutamento ManpowerGroup diz estar a detectar cerca de 100 mil candidaturas por ano com texto oculto ou outras tentativas de manipular sistemas automáticos de selecção. Estas técnicas exploram o facto de muitas plataformas de recrutamento recorrerem a modelos AI para analisarem currículos antes de qualquer avaliação humana.
Este tipo de prompt injection representa um novo desafio para os processos de recrutamento assistidos por AI. À medida que mais empresas automatizam a seleção inicial de candidatos, será necessário reforçar os mecanismos de detecção e validação para impedir que comandos ocultos influenciem as decisões dos sistemas de inteligência artificial. Do lado dos candidatos, começo a dar-lhes o benefício da dúvida sobre se estes comandos invisíveis serão efectivamente adicionados por si, ou se já serão incluidos automaticamente pelos próprios modelos AI ao escreverem os CVs, como forma de obterem vantagem implícita. Afinal, se há algo que tem ficado demonstrado, é que os modelos AI são bastante propensos a aprender com as batotas dos humanos.
(Ptnik)