Campus
Especialistas internacionais informam sobre o uso transparente de algoritmos no hackathon de políticas
Uma maior transparaªncia algoratmica no setor paºblico foi o foco de um hackathon polatico organizado pelo The Forum e pelo think tank Reform.
Por
George Hope - 08/04/2021
© Imperial College London.
A Imperial AI e os acadaªmicos de dados se juntaram a um grupo de cerca de 50 especialistas internacionais, incluindo formuladores de políticas seniores, reguladores, lideres da indústria e representantes de grupos de reflexa£o, para discussaµes focadas em soluções sobre questões políticas fundamentais colocadas pela transparaªncia algoratmica.Â
O hackathon de polatica virtual, um formato projetado para permitir a criatividade e a colaboração de especialistas para pensar em soluções concretas para os desafios, foi hospedado pelo The Forum , o programa de engajamento de políticas da Imperial e o think tank Reform .Â
Aplicações de IA que buscam promover a justia§a e o florescimento humano
Tabitha Goldstaub, Presidente do Conselho de IA do Governo do Reino Unido, e o Professor Aldo Faisal, Professor de IA e Neurociaªncia do Imperial, fizeram os comenta¡rios de abertura do evento.Â
O professor Faisal incentivou os participantes a usarem a oportunidade do hackathon para fazer networking e trocar ideias, e enfatizou que em um domanio que estãoevoluindo tão rapidamente, esse tipo de liderana§a inovadora tera¡ tração.
"Este foi um evento perfeito para promover a fertilização cruzada de ideias sobre usos futuros e transparentes da IA. Esse tipo de dia¡logo intersetorial leva ao tipo demudanças de que todos precisamos".
Dra. Rossella Arcucci
Colanãgio Imperial de Londres
Descrevendo alguns dos desafios quando os sistemas se tornam cada vez mais complexos e são capazes de tomar muitas decisaµes em escala, o professor Faisal disse que pode não ficar claro como os padraµes gerais surgem. Ele observou como os engenheiros podem definir 'funções de custo', que determinam o que uma IA tenta otimizar.Â
Essas funções de custo realmente oferecem "um potencial tremendo para a democracia", disse o professor Faisal, e permitira£o que os cidada£os e eleitores compartilhem os tipos de valores que gostariam de ver na sociedade, que uma IA pode então traduzir com efica¡cia. Ao aplicar IA na sociedade, os polaticos e legisladores precisam ajudar a definir como definimos essas funções de custo.
O professor Faisal, que édiretor do UKRI Centre for Doctoral Training in AI for Healthcare (AI4Health), falou sobre a importa¢ncia das habilidades e da educação em IA, apontando para os pontos fortes da Imperial, como o popular MSc em Inteligaªncia Artificial , um curso de conversão para alunos de uma variedade de disciplinas e os centros de treinamento de doutorado, como AI4Health e Safe and Trusted AI , em colaboração com King's College London.
Tabitha Goldstaub, Presidente do Conselho de IA, fez um discurso de abertura, onde mencionou o Mapa de estrada do Conselho , publicado no inicio de 2021, que estabeleceu uma visão coletiva para o desenvolvimento de IA no Reino Unido.
"Estou muito animado para ver os resultados do seu trabalho a¡rduo e as soluções inovadoras que vocêvai apresentar. Eu mesmo estarei debrua§ado sobre isso depois".
Tabitha Goldstaub
Presidente do Conselho de IA
O Conselho, que inclui o professor Nick Jennings, vice-reitor do Imperial (Pesquisa e Empreendimento), como um de seus membros, pediu ao governo que construasse uma Estratanãgia Nacional de IA do Reino Unido. Em mara§o de 2021, o governo do Reino Unido confirmou que publicara¡ uma nova estratanãgia para liberar o poder da IA.
Tabitha Goldstaub compartilhou seus pensamentos sobre a transparaªncia algoratmica no setor paºblico para definir as discussaµes.
"A transparaªncia algoratmica éum mecanismo vital por meio do qual podemos garantir que a lei estãosendo cumprida. Precisamos de aplicativos de IA que busquem promover a justia§a e o desenvolvimento humano. Isso não éfa¡cil e, nos últimos anos, infelizmente, testemunhamos vários casos em todo o mundo que alcana§aram manchetes onde algoritmos foram desenvolvidos de formas opacas e causaram danos.
"Maior transparaªncia algoratmica émuitas vezes apontada como a solução para muitos desses problemas, no entanto, nem sempre éa coisa mais fa¡cil ser transparente devido a s limitações técnicas, especialmente com algoritmos de aprendizado de ma¡quina e ainda mais complicado com aprendizado profundo.
"Estou muito animado para ver os resultados do seu trabalho a¡rduo e as soluções inovadoras que vocêvai apresentar. Eu mesmo estarei debrua§ado sobre isso depois."
Explorando soluções prática s para os desafios colocados pela transparaªncia algoratmicaÂ
No hackathon de políticas, um conjunto de questões e problemas identificados pela Reforma foram explorados. Os participantes foram divididos em grupos com um moderador e o objetivo era apresentar etapas prática s e soluções sobre um aspecto de transparaªncia algoratmica:Â
Transparaªncia no design em esta¡gio inicialÂ
Transparaªncia na fase de desenvolvimentoÂ
Transparaªncia durante a fase de implementaçãoÂ
Reparação e remediaçãoÂ
Quatro representantes imperiais participaram das discussaµes: Dra. Rossella Arcucci, pesquisadora (Data Analytics); Professor Rafael Calvo, Ca¡tedra de Engenharia de Design; Professor Aldo Faisal, Professor de IA e Neurociências; e Dr. Declan Mulkeen, Chefe de Desenvolvimento e Parcerias, AI4Health.Â
"Esse tipo de discussão multissetorial sobre o futuro da IA ​​e seu impacto social éessencial para orientar um trabalho que leve ao tipo de melhorias que a sociedade realmente deseja".
Professor rafael calvo
Colanãgio Imperial de Londres
Entre os tópicos abordados estavam quais requisitos de transparaªncia devem existir para explicar por que e como os algoritmos estãosendo considerados e usados; como as organizações do setor paºblico podem garantir a transparaªncia sobre as decisaµes tomadas para as pessoas afetadas e explicar efetivamente sua base para um paºblico não tanãcnico; e como podemos garantir que haja uma conversa pública mais ampla sobre o uso de algoritmos e que o paºblico esteja ciente dos mecanismos de apelação de decisaµes algoratmicas.Â
A Dra. Rossella Arcucci, pesquisadora (Data Analytics), em conjunto com o Data Science Institute da Imperial e a Imperial College Business School, disse:Â "Este foi um evento perfeito para promover a fertilização cruzada de ideias sobre usos futuros e transparentes da IA. Este tipo de cruzamento o dia¡logo setorial leva ao tipo demudanças de que todos nosprecisamos. "
O professor Rafael Calvo, catedra¡tico de Engenharia de Projetos da Escola de Engenharia de Projetos Dyson da Imperial, disse: “Esse tipo de discussão multissetorial sobre o futuro da IA ​​e seu impacto social éessencial para orientar o trabalho que leva ao tipo de melhorias que a sociedade realmente deseja. "
Um relatório pa³s-evento seráproduzido como resultado das descobertas do hackathon, que seráapresentado para fornecer soluções políticas em potencial.Â
O Forum: Conectando nossos pesquisadores aos formuladores de políticasÂ
O Forum éo programa de engajamento de políticas do Imperial College London, conectando pesquisadores do Imperial College a formuladores de políticas para descobrir novas formas de pensar sobre os desafios globais. Se desejar mais informações, entre em contato: the.forum@imperial.ac.uk .Â
O Imperial College London agradece o apoio do Fundo de Prioridades Estratanãgicas do UKRI para a realização deste trabalho.Â
