O ex-reitor de Stanford,  John Etchemendy , fila³sofo em treinamento, discute como as habilidades lógicas e anãticas de sua disciplina acadaªmica são necessa¡rias para moldar o futuro da inteligaªncia artificial.

Em suas próprias palavras, ele deseja maximizar o bom que a IA pode oferecer, enquanto minimiza os maus resultados que podem resultar a  medida que essa poderosa tecnologia evolui.

Para atingir esse objetivo, Etchemendy ajudou a fundar e agora co-dirige o Instituto Stanford de Inteligaªncia Artificial Centrada no Homem (HAI), uma equipe interdisciplinar de especialistas de Stanford. Eles visam influenciar e orientar o futuro da IA, aumentando a liderana§a de Stanford em IA, ciência da computação, engenharia e roba³tica, com experiência em medicina, direito, ciências sociais e humanidades.

Etchemendy diz que seu objetivo égarantir que a IA alcance todo o seu potencial para aprimorar as capacidades humanas e enriquecer as vidas humanas. Ele discutiu sua visão da inteligaªncia artificial centrada no ser humano no último episãodio do  podcast The Future of Everything, da Stanford Engineering, com o engenheiro  e anfitrião  Russ Altman , gravado no ini­cio de mara§o.

Russ Altman , o professor Kenneth Fong de Bioengenharia, de genanãtica, de medicina (disciplina médica geral), de ciência de dados biomédicos e, por cortesia, de ciência da computação.

Russ Altman: Obrigado. a‰ a³timo ver todo mundo morando no audita³rio hoje. Hoje em "O futuro de tudo", éo futuro da inteligaªncia artificial centrada no homem.

Todos sabemos que a IA explodiu. Temos o reconhecimento facial rotineiramente sendo usado em nossas ca¢meras e telefones. Temos assistentes como Siri e Alexa falando conosco, nos dando conselhos, nos ouvindo. Temos carros auta´nomos que estamos vendo cada vez mais nas estradas, análise de satanãlite da Terra, procurando áreas de seca, áreas onde possa haver atividades ilegais, áreas de pobreza. Temos roba³tica, além dos carros. Temos coisas em casa e redes sociais onde eles podem nos dizer quem são nossos amigos ou pelo menos quem devem ser. Tudo isso éútil e todos estãotrabalhando no nosso dia a dia.

Algumas pessoas estãoresistindo mais que outras, mas tudo comea§a a fazer parte da vida. Sempre háoutros usos da IA. O reconhecimento facial nos preocupa com um estado de vigila¢ncia. Os assistentes de fala estãoouvindo, talvez, quando não queremos que eles oua§am. A roba³tica, os dispositivos robóticos nos carros, nos preocupamos com o que acontece se eles fizerem algo que não queremos que eles fazm ou se alguém se machucar. Os satanãlites, nos preocupamos com a privacidade, e não apenas os satanãlites, mas as pequenas coisas voadoras - os drones. Alguns alertaram para resultados terra­veis, que isso vai levar ao estado "Terminator". Bem, já tivemos o estado "Terminator", mas isso levara¡ a uma rebelia£o de IA e controle da humanidade - e são pessoas razoa¡veis ​​que possuem, vocêpode decidir se são argumentos razoa¡veis,

John Etchemendy éprofessor de filosofia em Stanford. Ele éo ex-reitor da Universidade de Stanford, e o mais relevante hoje, éo co-diretor do Instituto Stanford de IA centrada no ser humano, e eu gostaria de convidar John agora. Por favor, junte-se a mim para recebaª-lo.

Russ Altman:  Obrigado, John, éfa¡cil dizer que a IA deve ser centrada no ser humano, mas vocêpode nos ajudar a quebrar o que éa IA e, em seguida, o que seria a AI centrada no ser humano para vocaª?

John Etchemendy: Ok, o que éIA? Eu poderia dar uma definição muito geral de IA, mas não vou. O que vou fazer édizer algo sobre a IA dos dias atuais, porque édisso que a maioria das pessoas estãofalando. a‰ nisso que a maioria das pessoas estãopensando; portanto, a IA dos dias atuais érealmente basicamente caracterizada por aprendizado profundo, arquiteturas de redes neurais e assim por diante. a‰ o responsável por alguns dos aplicativos incra­veis que vocêmencionou e ébasicamente o que queremos dizer com IA. Agora, émuito menos geral do que aquilo que queremos dizer de forma geral sobre IA -

Russ Altman:  Esta éa revolução no aprendizado de ma¡quina -

John Etchemendy:  Exatamente.

Russ Altman:  - que nos últimos cinco a 10 anos realmente fez progressos nota¡veis.

John Etchemendy: Passos  nota¡veis. Agora, quero enfatizar algo sobre a IA atual, e isso éque ésimplesmente uma maneira de programar computadores para fazaª-los executar funções que eram invia¡veis ​​usando técnicas de programação tradicionais. a‰ são isso. Quer dizer, isso émuito, porque nos permite fazer coisas como reconhecimento facial, o que não conseguimos fazer bem usando técnicas tradicionais, mas atualmente não énada além disso.

Russ Altman:  Esse éo grande avanço, e então conte-me sobre IA centrada no ser humano.

John Etchemendy:  Certo, IA centrada no ser humano, o que queremos dizer, no Instituto de IA centrada no ser humano, queremos dizer, realmente, três coisas quando usamos a terminologia centrada no ser humano, e essas três coisas correspondem a três focos de nossa instituto. Um foco estãona própria tecnologia, por isso temos uma tecnologia. a‰ a tecnologia que acabei de referir - vocêsabe, aprendizado profundo, redes neurais - e éuma tecnologia incra­vel no sentido de que nos permite fazer coisas realmente nota¡veis ​​com os computadores, mas émuito, muito limitada no sentido que ele pode ser aplicado simplesmente a doma­nios especificados de maneira muito restrita, requer grandes quantidades de dados para ser treinado e, de fato, produz resultados, algoritmos que, de muitas maneiras, são fra¡geis, ou seja, se decompõem de uma maneira que éinesperado. Eles são muito não humanos.

Russ Altman:  Certo, então o desempenho pode lembra¡-lo de um humano, mas a fiação subjacente não écomo nossos cérebros fazem isso.

John Etchemendy: Certo, ele funcionara¡ como um ser humano nos primeiros 1.000 casos e, em seguida, fara¡ algo bizarro, certo? Então, ele falha em reconhecer algo, porque a imagem foi alterada de alguma maneira muito trivial; portanto, não éhumana a esse respeito, em todos esses aspectos; portanto, uma inteligaªncia humana ésurpreendente, pois pode aprender esse tipo de tarefa. , tarefas de reconhecimento, com várias ordens de magnitude menos dados do que o exigido pelas redes neurais quando vocêas treina. Ela tende a ser muito menos fra¡gil do que os algoritmos que estamos produzindo, e várias outras maneiras pelas quais émuito, muito diferente; portanto, o primeiro sentido de ser humano centrado érealmente humano, a busca por inteligaªncia humana. Qual éo pra³ximo avanço que precisamos em inteligaªncia artificial para mover a tecnologia para a próxima geração, para melhorar essa tecnologia,

Russ Altman:  Então, para mim, isso soa como se vocêestivesse pensando em ter conversas com neurocientistas.

John Etchemendy:  Sim, exatamente, e acreditamos - estamos fazendo uma aposta, e essa aposta éque descobriremos que a inspiração para a próxima geração ao olhar para o crescente entendimento da inteligaªncia humana, tanto das neurociências quanto das cognitivas ciências, psicologia cognitiva, possivelmente da filosofia, por isso, pensamos -

Russ Altman:  Professor de filosofia.

John Etchemendy:  Certo. Ta£o centrada no ser humano nesse sentido. Estamos procurando impulsionar a tecnologia e estamos procurando uma direção especa­fica. Ou seja, para o humano, o entendimento do humano -

Russ Altman:  Portanto, essa centralização no ser humano estãocentrada na tentativa de se parecer um pouco mais com os sistemas biola³gicos de racioca­nio humano.

John Etchemendy:  Exatamente.

Russ Altman: Tudo  bem.

John Etchemendy:  Agora, esse éum sentido. Outro sentido, o segundo sentido e a segunda área de foco de nosso instituto, éo impacto da IA. Acreditamos que a IA, a tecnologia atual, por mais limitada que seja, afetara¡ tudo o que fazemos. Isso tera¡ impactos em todas as partes de nossas vidas. Já existe, vocêsabe disso ou não, e precisamos entender qual seráo impacto. Precisamos olhar para o seu impacto nos seres humanos, na sociedade, nas cidades, na força de trabalho, na economia, na segurança internacional, todas essas maneiras pelas quais isso tera¡ um impacto, precisamos entender:

Russ Altman:  Então isso éclaramente não tanãcnico. [... / ...] me desculpe, isso não éjusto. Ciência distintamente não informa¡tica.

John Etchemendy:  Nãoéparticularmente ciência da computação, embora eu acredite que exista uma interação importante entre os cientistas da computação e outros cientistas nas ciências sociais, por exemplo, por isso precisamos entender o impacto e antecipar esse impacto, e descobrir como lidar com isso para maximizar o bem e minimizar o mal.

Russ Altman:  Este é"O Futuro de Tudo". Sou Russ Altman. Estou falando com John Etchemendy. Estamos aprendendo sobre os três pilares da IA ​​centrada no ser humano e acredito que acabamos de abordar dois deles. Revisar os manãtodos inspirados em humanos e biologia para novas tecnologias e o número dois, para garantir que entendemos os amplos impactos sobre a humanidade das tecnologias de IA.

John Etchemendy:  Certo, e o terceiro ésobre a aplicação da tecnologia, e nós, como instituto, nos concentramos em maneiras pelas quais a tecnologia atual e, esperana§osamente, a futura tecnologia também podem ser usadas para não substituir seres humanos, não para , por exemplo, um ser humano e produz um roba´ que faz o trabalho desse ser humano, mas melhorando os seres humanos, estendendo o que os seres humanos podem fazer, enriquecendo vidas humanas, então temos, estamos prototipando muitas e muitas aplicações que, no esfera médica, esta escola de medicina, ou nas ciências da Terra, e assim por diante, para entender as maneiras pelas quais podemos aplicar essa tecnologia para melhorar a vida humana, aprimorar o que os humanos podem fazer, construir ferramentas para permitir que os humanos fazm coisas que eles não podiam fazer antes.

Russ Altman:  Então deixe-me perguntar sobre isso. Vamos parar por um momento, porque uma das grandes manchetes negativas sobre a IA éa perda de empregos. Vocaª acredita que o argumento da perda de empregos éum arenque vermelho, ou eles estãopensando nisso da maneira errada? Porque vocêdisse que queremos aumentar: devemos dizer aos motoristas: “Nãovamos substitua­-lo; Na³s vamos aumentar você", ou isso simplesmente não estãosendo honesto? Estou tentando entender isso.

John Etchemendy:  Nãosendo completamente honesto. Então veja, o que vai acontecer, acredito, éque isso tera¡ um enorme impacto na economia. Isso tera¡ um enorme impacto nos empregos. Sera¡ mais lento do que as pessoas estãoantecipando. Nãovai ser da noite para o dia. Os drivers não sera£o substitua­dos da noite para o dia. Por outro lado, havera¡ interrupções.

Agora, em todas as revoluções tecnologiicas - e o que estamos experimentando éuma revolução tecnologiica - em todas as revoluções tecnologiicas o número de empregos aumentou, por isso não éque haja menos empregos. Nãoéque as pessoas de repente, todos nosestamos desempregados porque fomos substitua­dos por robôs. O que acontece éque existem novos empregos que não existiam antes e eles tendem a ser mais empregos, em parte porque a revolução tecnologiica cria um aumento de produtividade, o que torna toda a sociedade mais rica, mais rica e fazemos mais, fornecemos mais servia§os e mais bens. Agora, isso não significa que não havera¡ interrupções. Havera¡ interrupções. Ou seja, havera¡ categorias de empregos que acabam sendo substitua­das e havera¡ pessoas nessas categorias que são, talvez, não, talvez sejam como eu:

Russ Altman:  Estou com vocaª.

John Etchemendy:  E éalgo que a sociedade precisa se preocupar e pensar. Eu não acredito, nem por um minuto, que acabaremos sem empregos e muitos robôs fazendo coisas por nós, embora, quando vocêpense sobre isso, o que éisso? Isso éprodutividade infinita, certo?

Russ Altman:  Muito obrigado, de modo que da¡ uma compreensão muito coerente de como a parte humana da IA ​​centrada no ser humano realmente, eu diria, focar a agenda, focar a agenda de pesquisa e pola­tica de uma maneira sensata. Uma das coisas, basta elaborar seu último comenta¡rio sobre algumas pessoas cujos empregos não são mais relevantes, e nosteremos um dever com elas para, talvez, a reciclagem, para que isso levante a questão: a própria IA pode ser de assistaªncia na educação? Então, os aplicativos educacionais para IA fazem parte da missão HAI?

John Etchemendy:  Sim, então ...

Russ Altman:  E eu sei, a propa³sito, que no ini­cio de sua carreira vocêestava envolvido na criação de software para a educação. Nãosei se isso estãorelacionado ao desempenho das coisas, mas ...

John Etchemendy:  Então deixe-me, na verdade, colocar essa resposta em espera. Deixe-me dizer algo sobre a substituição, porque eu realmente acredito que o que veremos cada vez mais éque os empregos se tornara£o melhores. Agora, o que não quer dizer que não havera¡ deslocamento, mas os empregos se tornara£o melhores. Pense no motorista de caminha£o de longo curso. Suspeito que, dentro de cinco ou dez anos, não havera¡ motoristas de caminha£o de longa distância dirigindo pelopaís, mas -

Russ Altman:  Em grande risco para a saúde deles, acho que estãodocumentado.

John Etchemendy:  Sim, sim, mas acho que, por um período muito mais longo, precisaremos de curta distância, dos motoristas de última milha que, então, movera£o as mercadorias da rodovia, da rodovia restrita, e as transportara£o para qualquer lugar eles estãosendo entregues. Agora, pense sobre isso. Isso realmente melhora o trabalho do motorista de caminha£o. Vocaª não precisa sair de casa por cinco dias por vez. Vocaª pode dormir em sua própria cama a  noite e seu trabalho estãorealmente mudando, dirigindo localmente, então acho que havera¡ muito aprimoramento de empregos, porque o tanãdio e a parte tediosa sera£o substitua­dos. Essa éa primeira parte que serásubstitua­da.

Agora, no que diz respeito a  reciclagem, acho que espero que tenhamos ... a educação assistida por computador foi uma decepção. Eu estive envolvido nisso porque não sei quantos anos, 35 anos, provavelmente, e isso foi, em geral, uma decepção, e tem sido uma decepção em parte porque as pessoas que tem mais dificuldade com a educação, aqueles para os quais vocêgostaria de fornecer a educação geralmente exigem a motivação que eles recebem de uma pessoa,

Russ Altman:  Um tutor.

John Etchemendy:  Um tutor, qualquer que seja -

Russ Altman:  Alguanãm que se importa.

John Etchemendy:  Certo, e então vocêdescobre que as pessoas que são muito boas em fazer um curso on-line tendem a ser aquelas que, vocêsabe, já tem um diploma de bacharel ou mestrado. Eles querem aprender uma habilidade. Eles podem se sentar, passar o tempo e se concentrar, então agora, podemos melhorar isso?

O que realmente éa educação, a educação de mais alta qualidade requer comunicação bidirecional de alta largura de banda. Requer não apenas alguém apresentando informações. Requer a capacidade de ouvir onde o aluno esta¡, qual éo entendimento do aluno, o que o aluno não estãoentendendo, e entender isso e depois modular o que vocêestãodevolvendo, e éassim que éo melhor, meio que individual uma instrução funciona ou instrução de classe pequena. Na³s podemos -

Russ Altman:  Permitam-me apenas dizer que este é"o futuro de tudo". Sou Russ Altman. Estou falando com John Etchemendy, que estãono meio da frase, descrevendo para mim as oportunidades de reciclagem.

John Etchemendy:  Meio da pergunta. Russ, podemos usar a IA para aumentar, para permitir esse tipo de interação bidirecional de alta largura de banda? Agora, o que seránecessa¡rio émuita IA centrada no ser humano, no sentido de que vocêtera¡ que ter sistemas que reconhea§am quando um aluno não estãoseguindo, que reconhea§am quando um aluno estiver entediado, reconhea§am quando ele adormeceu , direita? Vocaª sabe, tanto faz, então éisso -

Russ Altman: Inda­cios  muito humanos, sim.

John Etchemendy: Tipo  muito humano de pistas, exatamente, e então acho que temos agora, com as novas técnicas, a possibilidade de ter sucesso onde fracassamos tantas vezes antes e de fornecer educação fornecida por computador que realmente funcione para uma maior grupo de pessoas.

Russ Altman:  E me ocorre que a ideia desse tutor, que estãoextremamente sintonizada com a realidade de ser humano, que a tecnologia para um professor também seráboa para outra crise pendente em nossa sociedade, que éo cuidado dos idosos, muito parecido. Essas são, em sua opinia£o, áreas priorita¡rias de pesquisa ou são tão difa­ceis que provavelmente não são as primeiras coisas para abordarmos em um programa de pesquisa para HAI?

John Etchemendy:  Eles provavelmente são muito difa­ceis no sentido de que, se vocêquiser, digamos, cuidar de idosos, por exemplo, se vocêquiser substituir completamente os humanos que cuidam dos idosos, pessoas como nosem breve, isso vai demorar muito tempo. Essa éuma pergunta extremamente difa­cil, um problema difa­cil, mas hácoisas que podem ser feitas para aprimorar o que os cuidadores humanos podem fazer sem substitua­-las, coisas como observar, fornecer dispositivos que podem observar quando o idoso caiu da cama ou caiu e caiu. machuca¡-lo. Existem maneiras de usar essa tecnologia que nos permitira£o fornecer coisas como assistaªncia ao idoso de maneira muito mais ampla. Menos pessoas prestando assistaªncia a idosos a um número maior de pessoas, e adivinhem? Com aqueles de nosno envelhecimento da geração baby boom, édisso que precisamos.

Russ Altman:  Este é"O Futuro de Tudo". Sou Russ Altman. Mais sobre John Etchemendy sobre IA centrada no ser humano e as perspectivas para o futuro a seguir no SiriusXM.

Bem-vindo de volta a "O futuro de tudo". Sou Russ Altman. Estou falando com John Etchemendy sobre IA centrada no ser humano. Esta¡vamos falando sobre reciclagem e os desafios da interação humana profunda, tanto na educação quanto no atendimento a idosos. Quero agora me preocupar com o fato de muitas pessoas terem sobre a IA, o que as preocupa por não ser centrada no ser humano, que éa lacuna no acesso e o tipo de questões de justia§a, e quem pode usar a IA para aumentar a vida deles, e quem fica de fora, e essa éuma pergunta premente, eu acho, premente, porque muitas tecnologias beneficiam inicialmente um pequeno grupo e leva muito tempo para que outros se beneficiem. Vemos isso acontecendo com a IA e como vocêpensa sobre as questões de acesso a s tecnologias, equidade e justia§a da IA?

John Etchemendy:  Sim, então deixe-me dizer algumas ... Ha¡ muita coisa que eu poderia cobrir sob esse cabea§alho. Um anã, em primeiro lugar, com equidade e acesso, atécerto ponto, estamos vendo a IA em todos os na­veis possa­veis, e temos amplo acesso a  IA? Sim, vocêsabe, todo mundo que tem um smartphone tem acesso a determinadas ferramentas de IA, e isso édado a vocêe isso não é-

Russ Altman:  E devo acrescentar, toda pesquisa no Google que vocêfaz -

John Etchemendy:  Toda pesquisa no Google.

Russ Altman:  - éassistido pela IA, e todas as decisaµes de compra, gostem ou não, são afetadas pela IA.

John Etchemendy:  Agora, a questãode saber se havera¡ ferramentas de IA incrivelmente caras, sem daºvida havera¡. Havera¡, por exemplo, carros que são incrivelmente caros que usam IA, mas acho que muita dessa tecnologia, porque anã, lembre-se, étecnologia de computador, e uma coisa boa sobre tecnologia de computador éque éreplica¡vel, ou seja, , o custo incremental de uma nova insta¢ncia do Siri émuito, muito pequeno, e isso significa que podemos fornecaª-lo amplamente a s pessoas.

Agora, háoutro sentido em que me preocupo, então háum pouco de preocupação, mas não perco o sono a  noite com isso. Ha¡ outro sentido em que vocêpoderia falar sobre acesso, e isso éo acesso a  tecnologia, ao desenvolvimento da tecnologia, e acho que uma das coisas em que Fei-Fei Li, meu co-diretor, tem sido muito ativa éa tentativa de ensinar os alunos, particularmente estudantes de cor, mulheres estudantes, como usar a IA e como ser produtora de IA, e acho isso extremamente importante e extremamente importante porque, como vimos repetidamente novamente, quanto mais diversidade vocêtiver em uma área especa­fica, mais vera¡ aplicativos inovadores que não veria de outra forma.

Russ Altman:  Então, háuma atividade de ampliação.

John Etchemendy:  a‰ uma atividade de ampliação, e acho que éalgo com o que precisamos nos preocupar, e a AI for All, que éa organização em que Fei-Fei originalmente foi um dos fundadores e agora émuito, muito diferente. sites em todo opaís, édedicado a isso. Eles ensinam as criana§as do ensino manãdio que, de outra forma, não teriam acesso ao tipo de curra­culo necessa¡rio para aprender a usar a IA.

Russ Altman:  Este é"O Futuro de Tudo". Sou Russ Altman. Estou falando com John Etchemendy sobre IA, e John, vocêtem este instituto, e me pergunto como o mundo dos nega³cios estãorespondendo a esses desafios. Por exemplo, eles estãofelizes que uma instituição acadaªmica como Stanford esteja montando esse esfora§o? Eles sentem que tem tudo coberto, sabem o que estãofazendo? Eu acho que existem algumas empresas que tem a IA como parte essencial de sua missão. Outros que estãoflertando com isso, talvez tenham curiosidade em IA. Qual éa sua opinia£o da indústria sobre IA, e talvez atéparticularmente essas abordagens HAI que vocêestãodefendendo?

John Etchemendy:  Sim, eu acho que, vocêsabe, a indaºstria, em primeiro lugar, existem diferentes indaºstrias e empresas diferentes dentro das diferentes indaºstrias, e todas elas, acho que todas elas se encontram em diferentes pontos do espectro da IA, e assim muitas das empresas de tecnologia do vale estãotrabalhando rápido e furiosamente com a IA e estãoavaçando na tecnologia. Eles não tem o tipo de amplitude que uma universidade possui; portanto, nenhum deles écapaz de reunir os tipos de disciplinas que reunimos em nosso instituto;

Russ Altman:  Parece que isso seria particularmente verdade para a parte da avaliação de impacto, a parte dos impactos amplos. Eles podem não ter socia³logos, cientistas cognitivos, neurocientistas.

John Etchemendy:  Certo, quero dizer, essa não éapenas a parte do impacto, mas também impulsionando a tecnologia. Eles não tem a profundidade da Neurociênciaque temos aqui. Eles não tem a profundidade da psicologia cognitiva que temos aqui. Eles não tem a faculdade de medicina, a faculdade de administração, a faculdade de direito, a faculdade de educação; portanto, todas essas disciplinas que trabalham juntas em IA, deixe-me dizer uma coisa sobre a maneira como concebemos a AI na HAI. Vemos a disciplina da IA ​​como não mais uma disciplina restrita da ciência da computação. A disciplina da IA ​​agora se expandiu por toda a universidade, neste caso, por toda a extensão disciplinar. Toda disciplina toca a IA de uma maneira ou de outra.

Russ Altman:  Então deixe-me voltar a  minha pergunta. Eu ainda quero descobrir, eles estãoanimados com isso? Estamos resolvendo - Eles acham que vocêestãoresolvendo os problemas que eles tem? Ou eles são como, “Sim, boa sorte com isso. "Sabemos o que estamos fazendo com a IA", e realmente não sabemos, "leremos sobre o que vocêfaz no futuro".

John Etchemendy: Alguns deles provavelmente pensam que sim, e outros não, então isso foi do lado da tecnologia. O que eu não respondi - Existem outras maneiras pelas quais a reação da indústria tem sido extremamente positiva, e éque elas estãopreocupadas com a reação da sociedade ao desenvolvimento de ambas as tecnologias, as empresas de tecnologia e a tecnologia de IA em particular. , e eles estãomuito preocupados com o paºblico, e não apenas com o paºblico, mas com os legisladores, jua­zes e assim por diante, jornalistas, entendendo a tecnologia e uma das coisas que tentamos fazer na HAI éfornecer educação externa programas para educar, por exemplo, congressistas ou pessoas da UE, jua­zes ou jornalistas sobre o que éIA. Qual éo estado atual da IA? Qual éo hype? Qual éa realidade? E isso éalgo que, por unanimidade,

Russ Altman:  Então eu são quero destacar, porque parece que vocêacabou de listar um monte de grupos muito influentes. Acho que vocêdisse que jua­zes, funciona¡rios do Congresso, isso émuito empolgante e implica que seus esforços podem comea§ar, se não escrever pola­tica, certamente influenciara£o a pola­tica atravanãs da educação. Sa³ vocêpode nos dar uma ideia? O que háno curra­culo dos funciona¡rios do Congresso sobre IA? Suponho que vocênão esteja ensinando a eles como construir uma rede profunda e o reconhecimento facial, então o que eles precisam saber e como vocêdescobre isso?

John Etchemendy:  Bem, na verdade pensamos que eles, que éútil saber, em um certo na­vel, não construir um profundo, mas em um certo na­vel, entender: O que éessa tecnologia? E como estãofuncionando? E quais são suas limitações? E eu acho isso importante.

Pense na discussão da tecnologia de reconhecimento facial que existe, certo? Quero dizer, tem havido muita discussão ultimamente, e várias pessoas que disseram: "Bem, a tecnologia de reconhecimento facial" devem ser proibidas, ponto final, porque éruim. "Quero dizer, tem, veja, étendencioso, vocêsabe", e existem esses casos "em que não reconhece certos subgrupos muito bem" e, a propa³sito, "veja o que estãosendo feito aos uigures na China" , "E sendo usado como uma tecnologia de vigila¢ncia", éruim em todas essas maneiras diferentes. "Deve ser proibido."

O problema disso éque ele estãoolhando, sabe, nesse na­vel, uma tecnologia certamente não deve ser banida. Possui bons usos, bons aplicativos e aplicativos ruins, e a avaliação deve ser feita noníveldo aplicativo, e vocêchegaria a conclusaµes diferentes, dependendo de qual éo aplicativo; por exemplo, se vocêtem um sistema de reconhecimento facial que não possui, então minha familia ébasca - um subgrupo muito pequeno nos Estados Unidos, certo? - Então, suponha que vocêtivesse um sistema de reconhecimento facial que fosse muito ruim em reconhecer bascos, certo? Então não poderia me reconhecer, não poderia me identificar. Agora, que poderia ser horra­vel se fosse um sistema que estava sendo usado, de repente Stanford o implementou, e a única maneira de entrar no seu escrita³rio era reconhecaª-lo e simplesmente não funcionava, certo? Isso seria horra­vel para mim.

Por outro lado, se o governo estãousando para vigila¢ncia, fico feliz se faa§o parte de um desses subgrupos em que não funciona, certo? Depende inteiramente da aplicação. Portanto, o que estamos tentando avana§ar éum tipo de entendimento da tecnologia e um entendimento de que precisamos de critanãrios para avaliar a precisão, etc., e assim por diante, e talvez padraµes. para padraµes específicos de aplicativos. Quanto, quanto bom deve funcionar para este aplicativo ou para esse aplicativo?

Russ Altman:  E énessa direção que tenho certeza de que iremos. Quero agradecer por ouvir "O futuro de tudo". Sou Russ Altman. Se vocêperdeu algum episãodio, oua§a a qualquer momento com o aplicativo SiriusXM.