{{{sourceTextContent.title}}}

AI, la loi, et notre avenir

{{{sourceTextContent.subTitle}}}

Les scientifiques et les décisionnaires ont convergé au MIT mardi pour discuter un des problèmes les plus durs en intelligence artificielle : Comment la régir.

{{{sourceTextContent.description}}}

Le premier congrès de politique du MIT AI a comporté sept réunions-débats s'étendant à travers un grand choix d'applications d'AI, et 25 haut-parleurs — y compris deux anciens chefs du personnel de la Maison Blanche, anciens secrétaires de cabinet, chefs de sécurité de patrie et de politique en matière de défense, chefs d'industrie et de société civile, et chercheurs de conduite.

Leur foyer partagé : comment armer les occasions que l'AI crée — à travers des secteurs comprenant le transport et la sécurité, la médecine, le travail, la justice pénale, et la sécurité nationale — tout en vigoureusement confrontant des défis, y compris le potentiel pour la polarisation sociale, le besoin de transparent, et les misteps qui pourraient caler l'innovation d'AI tout en aggravant des problèmes sociaux aux Etats-Unis et autour du monde.

« Quand il s'agit d'AI dans les secteurs de la confiance publique, l'ère du déplacement rapidement et de casser tout est terminée, » a dit R. David Edelman, directeur du projet sur la technologie, l'économie, et la sécurité nationale (DIX) à l'initiative de recherches de politique d'Internet de MIT (IPRI), et un ancien assistant spécial au président pour la politique économique et de technologie dans la Maison Blanche d'Obama.

Edelman supplémentaire : « Il y a simplement trop d'en jeu pour nous tous pour ne pas avoir une parole. »

Daniel Weitzner, le directeur de fondation d'IPRI et un scientifique principal de recherches au laboratoire d'intelligence de l'informatique et artificielle de MIT (CSAIL), ont dit qu'un objectif principal du dialogue était d'aider la politique des analystes pour se sentir sûre au sujet de leur capacité de former activement les effets de l'AI sur la société.

« J'espère que les décisionnaires viennent loin avec un sens clair que la technologie d'AI n'est pas un certain objet immeuble, mais plutôt que la bonne interaction entre de l'informatique, le gouvernement, et la société dans son ensemble aidera à former le développement de la nouvelle technologie pour satisfaire les besoins de la société, » Weitzner a dit à la fin de l'événement.

Le congrès de politique du MIT AI a été organisé par IPRI, à côté d'une réunion de deux jours de l'Organisation de coopération et de développement économiques (OCDE), l'association intergouvernementale basée à Paris, qui développe des recommandations de politique d'AI pour 35 pays autour du monde. En tant qu'élément de l'événement, les experts en matière d'OCDE ont participé en session de la formation de demi-journée et pratique dans l'apprentissage automatique, car ils ont formé et ont examiné un réseau neurologique sous la direction de Hal Abelson, la classe du professeur 1922 de l'informatique et l'ingénierie au MIT.

Le forum de mardi a également commencé par une amorce sur la situation actuelle dans l'AI d'Antonio Torralba, d'un professeur dans CSAIL et le département de l'électrotechnique et de l'informatique (EECS), et directeur de la recherche de MIT pour l'intelligence. Notant que « il y a tant de choses continuant » dans l'AI, Torralba a raillé : « Il est très difficile de savoir ce qu'est l'avenir, mais il est encore plus difficile de savoir ce qu'est le présent. »

Un nouvel « engagement pour aborder les questions morales »

L'événement de mardi, organisé conjointement par l'IPRI et la recherche de MIT pour l'intelligence, a été tenu à un moment où l'AI suscite une importante quantité d'attention de médias — et un niveau sans précédent d'investissement et d'appui institutionnel.

Pour sa part, le MIT a annoncé en octobre 2018 qu'il fondait le MIT Stephen A. Schwarzman College du calcul, soutenu par un cadeau $350 millions de Stephen Schwarzman, qui servira de connexion interdisciplinaire de recherche et d'éducation dans de l'informatique, la science de données, AI, et champs relatifs. L'université abordera également la politique et les questions morales concernant le calcul.

« Ici au MIT, nous sommes à un moment unique avec le lancement imminent de la nouvelle université de MIT Schwarzman du calcul, » Weitzner avons noté. « L'engagement pour aborder la politique et les questions morales dans le résultat de calcul de volonté dans la nouvelle recherche d'AI, et le programme d'études pour former des étudiants pour développer la nouvelle technologie pour répondre aux besoins de la société. »

D'autres établissements prennent un engagement augmenté à l'AI aussi bien — y compris l'OCDE.

Les « choses évoluent tout à fait rapidement, » a dit Andrew Wyckoff, directeur pour la science, la technologie, et l'innovation à l'OCDE. « Nous devons commencer à essayer d'obtenir en avant de cela. »

Wyckoff a ajouté que l'AI était une priorité de politique du « principal trois » pour l'OCDE en 2019-2020, et a dit que l'organisation formait un « observatoire de politique » pour produire des évaluations réalistes de l'impact de l'AI, y compris la question de l'automation remplaçant les travaux.

« Il y a beaucoup de crainte là au sujet [des travailleurs] de l'déplacement, » a dit Wyckoff. « Nous devons regarder ceci et voir ce qui est réalité, contre ce qu'est la crainte. »

Juste ce qu'il faut de cette idée refoule plus de la crainte que la réalité, a indiqué Erik Brynjolfsson, directeur de l'initiative de MIT sur l'économie de Digital et un professeur au MIT Sloan School de la gestion, pendant une réunion-débat sur la fabrication et le travail.

Comparé à la gamme des qualifications requises dans la plupart des travaux, « aujourd'hui quel apprentissage automatique peut faire est beaucoup plus étroit, » Brynjolfsson a dit. « Je pense que ce va être le statu quo pendant un certain nombre d'années. »

Brynjolfsson a noté que sa propre recherche sur le sujet, évaluant la gamme complète des tâches spécifiques utilisées dans une grande variété de travaux, prouve que l'automation tend à remplacer le quelque mais pas toutes ces tâches.

« Dans pas simple de ces professions l'apprentissage automatique a couru la table » des tâches, Brynjolfsson a dit. « Vous n'allez pas simplement pouvoir brancher une machine très souvent. » Cependant, il a noté, le fait que les ordinateurs peuvent usurper certaines tâches signifie que la « réinvention et la nouvelle conception » seront nécessaires pour beaucoup de travaux. , Comme Brynjolfsson a souligné, « ce processus va toujours jouer au-dessus des années, sinon des décennies. »

Un paysage divers de politique

Une idée principale a souligné à l'événement est que l'élaboration de la politique d'AI pourrait dévoiler très différemment de l'industrie à l'industrie. Pour les véhicules autonomes — peut-être l'application large-la plus démarchée de l'AI — Les états d'États-Unis ont la puissance régulatrice significative, et les lois pourraient varier considérablement à travers des frontières d'état.

Dans une réunion-débat sur l'AI et le transport, Daniela Rus, l'Andrew et l'Erna Viterbi Professor de l'électrotechnique et le de l'informatique et le directeur de CSAIL, ont remarqué qu'elle voit le transport « en tant qu'une des cibles principales et une des questions principales d'adoption pour des technologies d'AI dans le futur actuel et proche. »

Rus a suggéré que l'utilisation des véhicules autonomes dans quelques environnements à vitesse réduite et moins-complexes pourrait être possible d'ici cinq ans ou ainsi, mais elle a également précisé que les véhicules autonomes vont moins bien dans des situations plus compliquées et plus à grande vitesse, et la lutte en mauvais temps.

En partie pour ces raisons, beaucoup de véhicules autonomes figurent pour comporter des systèmes où les conducteurs peuvent assurer les contrôles. Mais pendant que Rus notait, que « dépend de la capacité des personnes de succéder instantanément, » tandis que les études prouvent actuellement que cela prend à des conducteurs environ neuf secondes pour assumer le contrôle de leurs véhicules.

La réunion-débat de transport également touchée sur l'utilisation de l'AI dans les systèmes nautiques et aériens. Dans ce dernier cas, « vous ne pouvez pas regarder dans les yeux de votre co-pilote d'AI et juger leur confiance, » a dit John-Paul Clarke, vice-président des technologies stratégiques à United Technologies, concernant la dynamique complexe des interfaces homme-machine.

Dans d'autres industries, les défis fondamentaux d'AI comportent l'accès aux données, à un point souligné par Torralba et Regina Barzilay, à un professeur de MIT dans CSAIL et EECS. Pendant un panneau sur des soins de santé, Barzilay a présenté sur un aspect de sa recherche, qui emploie l'apprentissage automatique pour analyser des résultats de mammographie pour un meilleur dépistage précoce de cancer. Dans la vue de Barzilay, les défis techniques principaux dans son travail qui pourrait être adressé par la politique d'AI incluent l'accès à plus de données et à l'essai à travers des populations — qui peut aider à raffiner les outils automatisés de détection.

La matière de comment mieux créer l'accès aux données patientes, cependant, a mené à quelques échanges suivants animés. Tom Price, ancien secrétaire des services de la santé et des affaires sociales dans l'administration d'atout, a proposé que « les données De-identifiées soient absolument la clé » pour promouvoir le progrès, alors que quelques chercheurs de MIT dans le sudience proposaient qu'il soit pratiquement impossible de créer des données patientes totalement anonymes.

Jason Furman, un professeur de la pratique de la politique économique à Harvard Kennedy School et une ancienne présidence de l'Assemblée des Conseillers Économiques dans la Maison Blanche d'Obama, ont abordé le souci que les assureurs refuseraient la couverture aux gens basés sur les prévisions AI-produites au sujet desquelles les gens développeraient très probablement les maladies plus tard dans la vie. Furman a proposé que la meilleure solution pour ceci se trouve en dehors du domaine d'AI : empêchant le démenti du soin basé sur des conditions préexistantes, un élément de la Loi abordable de soin.

Mais global, Furman a ajouté, « le problème réel avec l'intelligence artificielle est nous n'ont pas assez de elle. »

Pour sa partie, Weitzner a suggéré que, au lieu des données médicales parfaitement anonymes, « nous devrions convenir sur ce qui sont les utilisations permises et les utilisations interdites » des données, depuis « la bonne manière de permettre l'innovation et la prise de l'intimité au sérieux est prise de la responsabilité au sérieux. »

Responsabilité publique

D'ailleurs, la responsabilité des organismes a constitué une autre pierre de touche des discussions de mardi, particulièrement dans un panneau sur la police et l'AI.

Le « gouvernement que les entités doivent être transparentes au sujet de ce qu'elles font en ce qui concerne l'AI, » a dit le conférencier de Jim Baker, de Harvard Law School et l'ancien Directeur des Services Juridiques du FBI. « Je pense qui est évident. »

Carol Rose, directrice exécutive du chapitre du Massachusetts de l'Union américaine de libertés civiles, a mis en garde contre l'abus des outils d'AI dans la police

« Je pense que l'AI a la promesse énorme, mais elle dépend vraiment si le travail de scientifiques de données et de police ensemble, » Rose a dit, suggérant qu'une « science d'ordure » ait déjà transformé sa manière en outils étant lancés sur le marché aux agents chargés de faire appliquer la loi. Rose a également cité Joy Buolamwini de MIT Media Lab en tant que chef dans l'évaluation de tels outils d'AI ; Buolamwini a fondé la ligue de justice algorithmique, un groupe contrôlant l'utilisation des technologies faciales de reconnaissance.

« Parfois je nous inquiète ai un marteau d'AI recherchant un clou, » Rose a dit.

Tout dit, comme Edelman a noté dans des dernier, le monde de politique se compose « des corps de la loi très différents, » et les décisionnaires devront se demander dans quelle mesure les règlements généraux sont signicatifs, ou si des aspects politiques d'AI mieux sont abordés des manières plus spécifiques — si dans la médecine, la justice pénale, ou le transport.

« Notre but est de voir l'interconnexion parmi ces champs… mais comme le faisons nous, nous a laissés également nous demander si “le gouvernement d'AI” est le bon cadre à entièrement il pourrait juste être que dans un avenir proche, toutes les affaires de gouvernement avec des questions d'AI, d'une manière ou d'une autre, » Edelman a dit.

Weitzner a conclu la conférence avec un appel pour que les gouvernements continuent l'engagement avec les communautés techniques d'intelligence de l'informatique et artificielle. « Les technologies qui forment l'avenir du monde sont développées aujourd'hui. Nous avons l'occasion d'être sûrs qu'elles servent les besoins de la société si nous maintenons ce dialogue comme manière d'informer la conception technique et la recherche croix-disciplinaire. »