Antes de saber o que uma ferramenta de IA consegue produzir, importa compreender o que o profissional lhe pede para produzir, porque antes da resposta existe uma pergunta, antes da pergunta existe uma intenção e antes da intenção existe um processo cognitivo através do qual o profissional define um problema, seleciona informação, estabelece prioridades, identifica limites e determina aquilo que pretende obter. É neste ponto que o prompt adquire uma relevância que ultrapassa a dimensão meramente tecnológica.

Um prompt não deve ser entendido apenas como um comando dirigido a um sistema de IA generativa. Em contexto de saúde, pode ser compreendido como uma representação linguística de uma intenção profissional estruturada. A sua qualidade depende da capacidade de quem o formula para delimitar uma finalidade, fornecer contexto, selecionar informação relevante, definir critérios e reconhecer os limites da resposta que pretende obter. Esta questão modifica substancialmente a forma como devemos abordar a literacia em IA nos profissionais de saúde.

Os grandes modelos de linguagem (LLM - Large Language Model) conseguem produzir respostas linguisticamente sofisticadas, coerentes e persuasivas. Essa característica constitui simultaneamente uma das suas maiores potencialidades e um dos seus maiores riscos, porque o verdadeiro problema pode não estar na resposta.

Uma resposta pode ser linguisticamente excelente e cientificamente incorreta. Pode parecer tecnicamente fundamentada e conter uma inferência inadequada. Pode apresentar referências que parecem credíveis e, contudo, não suportar efetivamente a afirmação realizada. Pode ainda omitir uma variável clínica relevante sem que essa omissão seja imediatamente evidente para um utilizador menos experiente.

A Organização Mundial da Saúde tem alertado para a necessidade de uma utilização segura, ética, equitativa e governada da inteligência artificial em saúde, salientando riscos associados a erros, enviesamentos, utilização inadequada e excesso de confiança nos sistemas. Consequentemente, a competência fundamental não pode consistir apenas em saber utilizar uma interface. O profissional necessita de saber perguntar, avaliar e decidir.

Esta sequência é particularmente importante em saúde porque a utilização de IA ocorre num contexto em que estão em causa direitos fundamentais, segurança do doente, confidencialidade, autonomia, responsabilidade profissional e qualidade dos cuidados.

Formular um prompt obriga a realizar uma operação que frequentemente permanece implícita no pensamento humano, definir o problema, porque um prompt é uma decisão sobre aquilo que queremos saber

Quando um profissional escrever apenas, “escreve sobre IA na saúde”, está a deixar em aberto praticamente todas as variáveis relevantes. Não define o destinatário, a finalidade, o contexto jurídico, o nível de profundidade, a natureza das fontes, o período temporal da evidência, os limites da resposta ou os riscos que devem ser considerados.

Já uma instrução que determine que a resposta seja dirigida a profissionais de saúde, utilize legislação da União Europeia e portuguesa atualizada, distinga evidência científica de inferência, identifique riscos para a segurança do doente, proteja dados pessoais e apresente fontes verificáveis está a fazer algo qualitativamente diferente. Não está simplesmente a pedir mais informação, está a estruturar o problema.

É por isso que a engenharia de prompts pode ser entendida como uma forma de disciplina cognitiva. A investigação específica sobre prompt engineering em saúde tem vindo precisamente a explorar a importância da formulação das instruções para orientar os modelos generativos para resultados mais relevantes e clinicamente adequados. A melhoria do resultado não significa necessariamente que o sistema se tenha tornado mais inteligente. Muitas vezes significa que o utilizador conseguiu definir melhor aquilo que pretendia.

A formação dos profissionais de saúde para a IA não deveria limitar-se ao conhecimento operacional das ferramentas. Saber abrir uma aplicação, introduzir uma pergunta ou copiar uma resposta é uma competência instrumental, mas insuficiente para uma utilização profissional segura.

A verdadeira literacia em IA exige pelo menos quatro níveis articulados: compreender minimamente como funcionam os sistemas, saber formular problemas, avaliar criticamente os resultados e reconhecer as implicações éticas, jurídicas e profissionais da sua utilização. O prompt situa-se precisamente na interseção destes quatro níveis.

Para construir uma instrução robusta, o profissional precisa de saber qual é o problema, que informação é relevante, que conhecimento pretende mobilizar, quais são os limites da tarefa e como deverá verificar o resultado. Por isso, ensinar profissionais de saúde a construir prompts não deveria ser apresentado como uma moda tecnológica ou como uma nova técnica de produtividade. Pode ser uma oportunidade pedagógica para ensinar a pensar de forma mais explícita.

O profissional que aprende a escrever uma instrução rigorosa aprende simultaneamente a identificar variáveis, estabelecer critérios, hierarquizar informação e formular perguntas verificáveis.

Existe ainda uma dimensão particularmente importante, o prompt pode funcionar como uma primeira barreira de segurança.

O NIST (National Institute of Standards and Technology), através do perfil específico do AI Risk Management Framework para IA generativa, identifica a necessidade de gerir os riscos associados a estes sistemas ao longo do seu ciclo de utilização, incluindo riscos específicos da geração de conteúdos e da utilização de modelos de linguagem. Em saúde, essa lógica pode ser transposta para a própria construção da interação.

Um profissional pode, por exemplo, estabelecer previamente que a resposta deve identificar incertezas, diferenciar factos de hipóteses, evitar conclusões não sustentadas, indicar fontes verificáveis, explicitar limitações e não utilizar informação pessoal identificável. Esta forma de construir a interação introduz uma lógica preventiva.

Em vez de esperar pela resposta para procurar os seus erros, o profissional incorpora desde o início condições que favoreçam uma resposta examinável. O prompt deixa, assim, de ser apenas uma ferramenta de eficiência e passa a assumir uma função de prudência.

A utilização profissional de IA em saúde não ocorre num vazio jurídico. Na União Europeia, o Regulamento (UE) 2024/1689 estabelece um quadro jurídico baseado no risco para a IA. O regulamento atribui particular relevância aos sistemas de alto risco, incluindo determinados sistemas utilizados no contexto de dispositivos médicos, e estabelece requisitos relacionados com gestão de riscos, dados, informação aos utilizadores e supervisão humana. Isto tem uma consequência importante. A regulamentação da IA não deve ser conhecida apenas pelos departamentos jurídicos ou pelas administrações das instituições de saúde. Deve integrar a literacia dos profissionais que utilizam estes sistemas.

Um profissional que utilize IA para apoiar uma atividade clínica, científica, pedagógica ou administrativa precisa de compreender que a finalidade da utilização, a natureza dos dados introduzidos, o tipo de sistema utilizado e o grau de influência que o output poderá exercer sobre uma decisão, são elementos relevantes.

O RGPD (Regulamento Geral sobre a Proteção de Dados - Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016), acrescenta outra dimensão fundamental, particularmente quando estão envolvidos dados relativos à saúde, que constituem uma categoria especial de dados pessoais. Por isso, uma pergunta dirigida a um sistema de IA deve começar também por uma pergunta dirigida ao próprio utilizador: tenho legitimidade e segurança para introduzir esta informação? A melhor engenharia de prompt pode ser anulada por uma má decisão sobre os dados introduzidos.

Existe um risco particularmente subtil na IA generativa, a fluência. Os seres humanos tendem a atribuir credibilidade a uma mensagem quando esta apresenta estrutura, coerência linguística e segurança discursiva. Os modelos generativos conseguem produzir precisamente essas características. Mas fluência não é validade.

Uma resposta pode ser convincente sem ser verdadeira. Pode ser completa na forma e incompleta no conteúdo. Pode apresentar uma explicação plausível e assentar numa premissa errada. Esta distinção é particularmente relevante para estudantes e profissionais de saúde porque o conhecimento profissional não pode ser substituído pela facilidade de obter informação. A disponibilidade imediata de uma resposta não equivale à existência de conhecimento validado.

Neste sentido, um dos maiores desafios pedagógicos colocados pela IA generativa, é ensinar profissionais que cresceram num ambiente de acesso rápido à informação a compreender que acesso não significa evidência e evidência não significa automaticamente aplicabilidade clínica.

Existe uma diferença fundamental entre utilizar a IA para obter uma resposta e utilizá-la como instrumento de reflexão. No primeiro caso, o sistema pode transformar-se num atalho cognitivo. O utilizador pergunta, recebe e aceita a resposta. No segundo, a IA pode funcionar como um instrumento auxiliar. O profissional formula uma hipótese, solicita argumentos, procura contra-argumentos, identifica lacunas, compara perspetivas e posteriormente confronta os resultados com fontes científicas, normas, legislação e experiência profissional. A diferença não está apenas na tecnologia, porque o que está em jogo é a posição epistemológica assumida pelo utilizador.

Quando o profissional transfere para a IA a tarefa de pensar, existe risco de dependência cognitiva. Quando utiliza a IA para ampliar a sua capacidade de questionamento, mantendo a responsabilidade pelo julgamento, existe uma utilização substancialmente diferente.

A autoridade profissional não desaparece porque existe uma ferramenta capaz de gerar respostas. Pelo contrário, quanto mais convincente for a ferramenta, maior deve ser a exigência humana de validação.

Uma forma simples de operacionalizar esta perspetiva consiste em considerar cinco dimensões antes de interagir com um sistema generativo. Primeiro, a finalidade. O que pretendo obter e para quê? Segundo, o contexto. Para quem se destina a resposta, em que realidade profissional será utilizada e que enquadramento jurídico e clínico deve ser considerado? Terceiro, a evidência. Que fontes devem fundamentar a resposta e como será verificada a sua qualidade? Quarto, os limites. O que o sistema não deve fazer, nomeadamente inventar referências, produzir conclusões clínicas sem suporte ou utilizar dados pessoais identificáveis? Quinto, a validação. Como vou verificar aquilo que foi produzido antes de o utilizar? Estas cinco dimensões podem transformar uma interação aparentemente simples numa prática de pensamento estruturado.

Nenhuma destas considerações significa que o prompt consiga eliminar os riscos da inteligência artificial generativa. Não consegue. Um prompt melhor pode aumentar a qualidade e a adequação do resultado, mas não transforma um modelo generativo numa autoridade científica ou clínica. A responsabilidade permanece no profissional e na organização.

A OMS defende precisamente uma abordagem em que a IA seja desenvolvida e utilizada com ética, direitos humanos, supervisão e responsabilização. Esta responsabilidade também deve ser institucional. As organizações de saúde necessitam de políticas claras sobre utilização de IA, proteção de dados, seleção de ferramentas, validação de outputs, formação dos profissionais, documentação e supervisão.

A utilização de IA não deveria depender exclusivamente da iniciativa individual de cada profissional, e nesta medida uma tecnologia com potencial para influenciar processos clínicos, educativos, científicos ou administrativos precisa de estar integrada numa arquitetura de governação.

A formação em IA poderá falhar se se limitar a ensinar quais as ferramentas existentes e como utilizá-las. A resposta não pode ser um profissional que saiba apenas obter informação. Precisamos de profissionais capazes de formular problemas, interpretar evidência, reconhecer incerteza, compreender legislação, proteger dados, identificar riscos e assumir responsabilidade pelas decisões.

É por isso que a literacia em prompts deveria começar a ser integrada na formação em saúde, em articulação com metodologia científica, ética, bioética, comunicação, proteção de dados, segurança do doente e raciocínio clínico. Não para transformar profissionais de saúde em programadores. Mas para evitar que se transformem em utilizadores acríticos de sistemas que podem produzir respostas linguisticamente perfeitas e epistemologicamente frágeis.

A inteligência artificial generativa está a alterar a relação entre seres humanos, informação e conhecimento. Na saúde, essa transformação exige mais do que competências tecnológicas. Exige uma renovação da própria cultura profissional.

O prompt pode parecer uma pequena instrução escrita numa caixa de diálogo. Mas, quando utilizado num contexto profissional, contém muito mais do que palavras: contém uma finalidade, uma seleção de informação, uma representação do problema, pressupostos, limites e critérios de validação. É por isso que a qualidade da utilização da IA começa antes da resposta. Começa na pergunta.

O desafio do futuro não será simplesmente saber utilizar sistemas capazes de responder cada vez mais depressa. Será conservar a capacidade humana de perguntar melhor, duvidar da resposta, procurar evidência, reconhecer os limites do conhecimento e decidir com responsabilidade.

A inteligência artificial pode produzir uma resposta em segundos. A responsabilidade de decidir se essa resposta merece confiança continua a exigir aquilo que nenhuma IA consegue substituir, o pensamento critico do profissional de saúde.