O Crescimento da Shadow AI na Saúde: Riscos e Necessidade de Governança

A crescente pressão sobre os profissionais de saúde, especialmente no NHS, tem levado muitos a recorrerem a ferramentas de inteligência artificial (IA) para auxiliar em suas funções. Embora essa tendência possa ser vista como positiva, a utilização de ferramentas não autorizadas, conhecida como Shadow AI, levanta sérias preocupações sobre a segurança e a eficácia no atendimento ao paciente.

As ferramentas de IA têm o potencial de otimizar fluxos de trabalho, automatizar a documentação e melhorar a comunicação entre equipes. No entanto, o desenvolvimento acelerado da IA, especialmente da IA generativa, tem superado a capacidade das estruturas de governança existentes, resultando em um uso não regulamentado dessas tecnologias.

O termo Shadow AI refere-se ao uso de ferramentas de IA que não foram autorizadas pelas organizações. Esse fenômeno, embora presente em diversos setores, tem se intensificado na área da saúde. Um estudo recente nos Estados Unidos revelou que 17% dos profissionais de saúde admitiram utilizar ferramentas de IA não autorizadas em seu trabalho. Além disso, 39% dos funcionários da linha de frente afirmaram usar ferramentas de IA genéricas e gratuitas semanalmente.

Esses dados indicam que a IA já está se tornando parte integrante das operações diárias, muitas vezes sem a supervisão adequada. Os riscos associados a essa prática incluem a possibilidade de decisões clínicas baseadas em informações imprecisas ou desatualizadas, o que pode comprometer a segurança do paciente.

Os profissionais de saúde enfrentam uma carga de trabalho crescente, com escassez de pessoal e aumento da demanda por atendimento. Nesse contexto, é compreensível que busquem soluções rápidas e acessíveis, como ferramentas de IA que são fáceis de usar e muitas vezes gratuitas. No entanto, essa busca por eficiência pode levar a consequências graves.

As organizações de saúde, incluindo o NHS, têm sido cautelosas na adoção de novas tecnologias, o que é justificável, considerando que as decisões clínicas impactam diretamente os resultados dos pacientes. Ferramentas de decisão clínica baseadas em IA devem ser rigorosamente testadas e validadas antes de serem implementadas, mas a lentidão nesse processo permite que a Shadow AI preencha o vazio.

Embora existam ferramentas de IA de qualidade disponíveis no mercado, a questão central é como os líderes podem controlar o uso da Shadow AI. A falta de diretrizes claras e alternativas seguras pode levar os profissionais a continuarem utilizando ferramentas não autorizadas, o que representa um risco significativo.

Os perigos do uso não sancionado de IA incluem violações de segurança e privacidade, além do impacto direto na qualidade do atendimento ao paciente. Soluções de IA genéricas muitas vezes operam como “caixas pretas”, dificultando a avaliação da segurança dos dados. Por exemplo, ferramentas como o ChatGPT não garantem conformidade com as regulamentações de informações de saúde, o que é preocupante, dado que os dados dos pacientes são considerados informações sensíveis sob a GDPR.

Além disso, as ferramentas de IA não autorizadas podem fornecer orientações erradas sobre sintomas, diagnósticos ou tratamentos, o que pode ter consequências severas para a saúde dos pacientes. Um profissional apressado que confia em uma ferramenta não validada está assumindo um risco considerável.

A solução não deve ser uma proibição total do uso de IA, pois isso pode empurrar o uso não autorizado ainda mais para as sombras. Em vez disso, os líderes de saúde devem estabelecer diretrizes claras sobre o uso de IA e investir em educação e treinamento sobre seus riscos e benefícios.

As organizações precisam oferecer ferramentas clinicamente validadas, seguras e de fácil utilização. Se os sistemas aprovados forem lentos para serem implementados ou não atenderem às necessidades operacionais, os profissionais de saúde continuarão a buscar alternativas não autorizadas.

A governança é um aspecto crucial nesse processo, envolvendo equipes de TI, especialistas em segurança e gestão operacional. A implementação de IA afeta não apenas o atendimento ao paciente, mas também a conformidade, a eficiência da força de trabalho e os riscos organizacionais.

A IA certamente se tornará uma parte cada vez mais importante da entrega de serviços de saúde moderna. As organizações que se destacarem não serão necessariamente aquelas que adotarem a IA mais rapidamente, mas sim aquelas que criarem estruturas de confiança que permitam aos clínicos acessar ferramentas seguras, robustas e devidamente regulamentadas.

Portanto, é fundamental que os líderes do setor de saúde reconheçam a urgência de abordar o uso da Shadow AI e implementem estratégias eficazes para mitigar os riscos associados. A construção de um ambiente seguro e regulamentado para a utilização de IA é essencial para garantir a qualidade do atendimento ao paciente e a proteção de dados sensíveis.

Em resumo, a Shadow AI representa um desafio significativo para o setor de saúde, exigindo uma resposta proativa das organizações. A implementação de diretrizes claras e a oferta de alternativas seguras são passos cruciais para garantir que a tecnologia beneficie o atendimento ao paciente, sem comprometer a segurança e a eficácia dos serviços prestados.

A necessidade de uma governança robusta e de um uso responsável da IA na saúde nunca foi tão evidente. As organizações que conseguirem equilibrar inovação e segurança estarão melhor posicionadas para enfrentar os desafios futuros e melhorar a qualidade do atendimento ao paciente.