L’humaine faillibilité d’un maître de l’IA

Et si la « singularité » chère à Ray Kurzweil – ce moment où la fusion de l’IA et de l’intelligence humaine multipliera « nos capacités des millions de fois » – était déjà parmi nous ? Le pape du transhumanisme prévoyait l’événement pour 2045, et ses prédictions sont parfois exactes (n’avait-il pas annoncé que l’ordinateur battrait l’homme aux échecs en 1997, et ça s’est produit en 1998). Mais dans certains domaines, notamment celui du renseignement militaire israélien, cette fusion « aux effets cumulatifs exponentiels » fonctionne déjà, comme l’expose « le brigadier général Y.S ».

Il sait de quoi il parle. Il est en effet le patron de l’unité ultra-secrète 8200, qui traque le Hamas et le Hezbollah et choisit les cibles des bombardements à l’aide de logiciels comme Lavender et The Gospel (!). Le problème des grandes oreilles aujourd’hui n’est pas de collecter des données mais bien de les décrypter, analyser, croiser – bref de les faire parler presque malgré elles. Dans l’ex-RDA, la sinistre Stasi en faisait de même, bourrant constamment ses fameux dossiers (presque un pour deux adultes est-allemands) de toujours plus d’informations, la plupart inutiles. Hormis quelques pépites que la Stasi (principal employeur de la RDA !) avait le temps et surtout les moyens de détecter dans le fatras. Les services secrets israéliens, eux, doivent opérer bien plus efficacement et dans l’urgence. Désormais ils savent identifier les membres des organisations ennemies et surtout suivre leurs allées et venues. Qui fait partie d’une boucle WhatsApp suspecte ? Qui change régulièrement de numéro de portable ? Qui possède des armes ? Et surtout : qui n'a pas dormi chez lui depuis au moins deux jours ? Quand quelqu’un cochant ces cases-là et quelques autres retourne à son domicile, c’est pour s’y faire bombarder en même temps que sa famille et ses voisins. Les logiciels déterminent le ratio cible/victimes collatérales, et la décision dépend ensuite de l’importance de la cible... et des circonstances (on suppose qu’après le 7 octobre on tolérait, par vengeance, des ratios consternants).

Le brigadier général Y.S est un technophile enthousiaste, limite messianique, qui voit dans cette alliance des deux intelligences, la digitale et la biologique, la clé de la tranquillité des nations – grâce notamment à la mise en place de « frontières digitales », infranchissables clandestinement. Israël est à la pointe de ce rapprochement, pour lequel le Talmud a quasiment inventé un concept, « Havruta » (collaboration homme-machine), ainsi qu’une image : celle des deux couteaux qui s’aiguisent mutuellement en se frottant l’un contre l’autre. Non seulement l’IA peut chaque jour traiter plus de données, chaque jour plus nombreuses, mais elle peut les analyser plus intelligemment afin de « mieux choisir les cibles militaires potentielles en évitant les goulots d’étranglement d’origine humaine », écrivent Harry Davies et Bethan McKernan dans The Guardian.

Exemple d’un de ces goulots : les renseignements israéliens avaient reçu un document en arabe révélant les contours de l’opération du 7 octobre, mais ils n'avaient pas pris en compte cette information qui n’avait pas été convenablement déchiffrée à temps. Grâce au deep learning, les systèmes analytiques vont vite devenir parfaitement arabophones. Clausewitz disait que « la guerre était le royaume de l’incertitude ». De moins en moins vrai, tendanciellement, mais ce n’est pas gagné. Le péan techno-optimiste du brigadier Y.S en a d’ailleurs, par sa parution même, apporté une preuve cocasse : une fausse manœuvre sur Amazon a révélé l’identité ultra-secrète de l’infortuné maître-espion. Elle est révélée par The Guardian (à savoir : Yossi Sariel). Cette bourde, ce n’est pas le cerveau-machine, infaillible presque par définition, qui l’a commise, mais celui d’un pauvre humain maladroit – en l’occurrence, ce même Yossi Sariel.