Humanidades
Padrões de IA essenciais para proteger as relações médico-paciente e os direitos humanos
Padrões e orientações anãticas claras devem estar em vigor para proteger a relação de confianção entre médicos e pacientes e salvaguardar os direitos humanos, de acordo com um relatório do Conselho da Europa hoje,...
Por
Oxford - 12/06/2022
Já existem sistemas robóticos sendo usados ​​em cirurgias e o relatório baseia-se na ideia de que a automação estãoavaçando em ambientes clínicos oscriando a necessidade de padraµes claros. Crédito: Shutterstock
O Dr. Mittelstadt éDiretor de Pesquisa do Oxford Internet Institute e um dos principais especialistas em anãtica de dados. Ele diz: 'Espero que o relatório faz as pessoas pensarem sobre como a IA pode atrapalhar as principais prática s envolvidas na saúde.'
Mas ele estãopreocupado que a IA possa ser usada como uma maneira de reduzir ora§amentos ou economizar custos, em vez de melhorar o atendimento ao paciente e diz: 'Se vocêvai introduzir novas tecnologias no espaço clanico, precisa pensar em como isso seráfeito. Muitas vezes, évisto apenas como um exercacio de economia de custos ou eficiência, e não um que pode transformar radicalmente a própria saúde.'
"Com muita frequência, a IA évista apenas como um exercacio de economia de custos ou eficiência, e não um que pode transformar radicalmente a própria saúde"
Dr. Brent Mittelstadt
O Dr. Mittelstadt foi contratado para escrever o relatório do Comitaª Diretor de Direitos Humanos do Conselho da Europa nas áreas de Biomedicina e Saúde para investigar o impacto potencial da IA ​​na relação médico-paciente. O relatório aconselha que o uso de IA permanece 'não comprovado' e pode minar a 'relação de cura'.
O eticista aponta que a IA já estãosendo usada em ambientes clínicos osnão médicos robôs, que 'não existem'. Ele diz: 'Sistemas que usam IA são muito antigos... eles podem identificar tumores em exames ou recomendar diagnósticos.' Mas, diz o Dr. Mittelstadt, 'Eles não estãotomando decisaµes de forma auta´noma sobre o atendimento ao paciente'.
Seu relatório afirma: 'Uma reconfiguração radical da relação médico-paciente do tipo imaginado por alguns comentaristas, na qual sistemas artificiais diagnosticam e tratam pacientes diretamente com o manimo de interferaªncia de médicos humanos, continua a parecer distante.'
No entanto, diz Mittelstadt, já existem sistemas robóticos sendo usados ​​em cirurgias e seu relatório se baseia na ideia de que a automação estãoavaçando em ambientes clínicos oscriando a necessidade de padraµes claros.
"Já existem sistemas robóticos sendo usados ​​em cirurgia e seu relatório se baseia na ideia de que a automação estãoavaçando em ambientes clínicos"
O relatório adverte: 'A relação médico-paciente éa base da 'boa' prática médica e, no entanto, aparentemente estãosendo transformada em uma relação médico-paciente-IA. O desafio enfrentado pelos provedores, reguladores e formuladores de políticas de IA éestabelecer padraµes e relacionamentos robustos para que esse novo relacionamento clanico garanta que os interesses dos pacientes e a integridade moral da medicina como profissão não sejam fundamentalmente prejudicados pela introdução da IA.'
Ele explica que a IA pode mudar a saúde como um terceiro ator no relacionamento ostrazendo novas informações e novas dina¢micas. Por sua vez, isso pode mudar a forma como os cuidados são prestados.
De acordo com o relatório, com a introdução da IA, pode ocorrer uma mudança no relacionamento, mas não no paciente, 'A vulnerabilidade do paciente não [anã] alterada pela introdução da IA... o que muda são os meios de cuidado entrega, como pode ser fornecida e por quem. A mudança de especialização e responsabilidades de cuidado para sistemas de IA pode ser disruptiva de várias maneiras.'
O relatório também alerta que a IA pode introduzir vianãs em uma situação, mas detectar vieses não ésimples. Ele escreve: 'Os sistemas de IA são amplamente reconhecidos como sofrendo de preconceito... Tomada de decisão tendenciosa e injusta muitas vezes... reflete preconceitos e desigualdades sociais subjacentes. Por exemplo, amostras em ensaios clínicos e estudos de saúde tem sido historicamente tendenciosas para sujeitos brancos do sexo masculino, o que significa que os resultados são menos propensos a se aplicar a mulheres e pessoas de cor.'
"Os sistemas de IA são amplamente reconhecidos como sofrendo de preconceito... historicamente tendenciosos para sujeitos brancos do sexo masculino, o que significa que os resultados são menos propensos a se aplicarem a mulheres e pessoas de cor"
E sublinha os desafios e problemas potenciais na relação entre médicos e pacientes, inclusive em termos de segurança e proteção dos pacientes, 'Se a IA for usada para aumentar ou substituir a experiência clanica humana, seu impacto na relação de cuidado émais difacil prever... O impacto da IA ​​na relação médico-paciente, no entanto, permanece altamente incerto'. E, ressalta, 'IA apresenta vários desafios aºnicos para o direito humano a privacidade.'
A necessidade de padraµes vinculativos sobre como a IA éimplantada e governada éclara, acrescenta o relatório: 'As recomendações devem se concentrar em um padrãode atendimento positivo mais alto no que diz respeito a relação médico-paciente para garantir que não seja indevidamente interrompida pela introdução da IA em ambientes de cuidados.'
