Google énonce les "AI principles" et abandonnera le projet Maven du Pentagone

Google et le Pentagone, c'est une histoire d'amour depuis mars 2016, lorsque Eric Schmidt (CEO et directeur) prit en main la direction du nouveau innovation board au Pentagone, aux côtés de Matt Cutts (ex-directeur de la division Spam de Google Search). En plus de cela, la compagnie continue de battre chaque année des records de dépenses en lobbying, se permettant de devancer en 2017 Facebook, Amazon et Apple. C'est aussi en 2017 (coïncidence ?) avec l’avènement du Projet Maven que Google devenait officiellement une entreprise liée à la défense nationale, ce qu'ils appellent aussi en "murica" un defense contractor. En bref, Maven est un projet de recherche en intelligence artificielle à des fins militaires, plus d'informations à ce sujet ici.

Inévitablement, le combo IA/Pentagone et l'implication de Google n'ont pas plu à tout le monde, au point où plus de 4000 employés de Google avaient alors signé et envoyé une lettre ouverte à la direction. Ils y mettaient notamment en garde la compagnie des effets potentiellement négatifs sur l'image du géant de la recherche, autant auprès du public que des employés existants et futurs. D'ailleurs, un rapport récent prétend qu'au moins une poignée d'étudiants auraient rejeté l'idée de travailler pour Google à cause de ses connexions avec le Pentagone. Simultanément, certains affirmaient aussi que de telles pratiques allaient à l'encontre du fameux slogan "Don't be evil" de Google, après quoi la compagnie avait d'ailleurs tout bonnement retiré la majorité des mentions "Don't be evil" de son code de conduite... Rassurant !

Malgré tout, Google a annoncé ne pas souhaiter renouveler le contrat du "Project Maven" avec le gouvernement américain; l'accord initial s’étalait sur deux ans et prendra fin en 2019. On suppose que le travail aura déjà majoritairement été accompli de toute façon d'ici là, ou aura au moins établi les bases nécessaires à la continuation du projet sans l'aide de Google. En sus, probablement dans l'espoir de redorer un tantinet son image de marque, Google a aussi dévoilé les trois lois de la robotique  un sorte de code d'éthique que le géant désormais affirme vouloir s’engager à respecter à l'avenir dans le domaine de l'IA. Ce sont les AI Principles, que voici :

Google explique ne plus vouloir travailler à des projets d’intelligence artificielle pouvant être utilisés pour de la surveillance, affecter la vie d'autrui, ou violer les lois internationales du droit de l'Homme. Peut-être un hasard du calendrier (mais on en doute un peu), ce fait prend aussi place alors que les rapporteurs spéciaux des Nations Unies ont récemment suggéré aux grandes compagnies Tech d'implémenter et d'appliquer par défaut les principes des droits de l'homme à leur produits et services, en lieu et place de leurs règles de filtrage et de censure "faites maisons" voire sur mesure en fonction des demandes des gouvernements locaux.

Ouf, ça y est ? Google est démilitarisé ? Non, pas pour autant. En dépit de l'abandon futur de son travail sur le projet Maven et son engagement envers ses propres 7 lois de l'IA, Google a réaffirmé sa volonté d’être un partenaire de la défense nationale et de travailler avec l'armée. Après tout, on parle ici de contrats pouvant parfois se chiffrer en milliards de dollars cumulés, et pour le géant américain il serait bien dommage de laisser le terrain libre à des concurrents comme Amazon, ce dernier qui profite d'ailleurs déjà d'une bonne relation (malgré quelques couacs) avec le Pentagone. Skynet tout de même retardé ? (Source)

Crédit image : Pando