Les intelligences artificielles et leurs dangers

En 10 lignes:

L’intelligence artificielle est une technologie en partie très récente, capable d’interagir avec nous de manière large par le biais d’internet. Elle va certainement nous réserver des surprises, bonnes comme mauvaises.
Pour éviter les mauvaises, ne faudrait il pas créer des critères d’une IA éthique et tenter de les instaurer dans les entreprises? J’explique mon point de vue ici.

En 30 lignes:

Le fait qu’on ne comprend pas parfaitement ce qui se passe dans les réseaux de neurones simulés par ordinateur est à mon avis un danger.

Actuellement les réseaux de neurones artificiels sont capables de reconnaître des images, des sons, des situations particulières, et de s’adapter à des cas.

Principe de fonctionnement:

Il faut pour cela entraîner ces réseaux de neurones, et leur apprendre entre guillemet que sur un millier d’images, que telles et telles sont des images de chats et telles et telles autres sont des images d’autres choses. Tout cela se déroule dans des ordinateurs bien sûr… A la fin de ce processus, le réseau de neurone, si il est bien calibré devrait reconnaître les chats. Il est de même pour les sons et les situations, par exemple la mesure du risque de plantage d’un réseau d’ordinateur à cause d’un possible virus, ou d’une intrusion.

Le soucis c’est qu’à la fin il est très délicat à l’informaticien de comprendre exactement pourquoi le chat est reconnu, et il est de même pour la détection de risque de plantage du réseau.

Vous allez comprendre pourquoi je pense que ceci est un problème:

Si l’on laisse une telle IA effectuer une tache sur internet, alors il est imaginable qu’à long terme celle ci crée des stratégies immorales sans qu’on puisse comprendre ce qu’elle fait vraiment et du coup l’en empêcher. Je prend trois exemples:

  1. Le prix des billets d’avion. Si il est fixé dans deux compagnies aériennes différentes par des intelligences artificielles et divulgué sur internet, pourrait bénéficier d’un mécanisme d’entente sur les prix. Pour être plus clair, ce qui est interdit, c’est à dire de s’accorder sur les prix entre deux compagnies aériennes pour un même trajet, sera fait discrètement, sans que personne ne le sache(même les compagnies aériennes), par les intelligences artificielles si elles arrivent à échanger.
  2. Pour l’algorithme de classement des résultats dans un moteur de recherche de sites internet. Si celui ci a pour but d’augmenter les revenus du moteur de recherche, et que l’on laisse une IA effectuer une telle tache, alors ce qui pourrait se passer c’est que si un site web est bien référencé alors qu’il n’a pas encore payé de publicité, il soit déclassé après avoir payé de la publicité et que le crédit soit épuisé, car l’IA se serait entre guillemet rendu compte que les auteurs du site peuvent payer à nouveau.
  3. On peut imaginer, même si ça reste hypothétique et qu’il y a en réalité de nombreuses frontières à franchir, qu’un jour de telles IA manipulent les données bancaires dans le but de favoriser ce pourquoi l’entreprise l’a programmé.

Il est difficile de comprendre ce qui se déroule dans une IA de type réseau de neurones artificiels

Conclusion:

Une partie du danger des IA correspond au fait qu’on ne sait pas parfaitement comment elle fonctionne.

On peut imaginer de nombreux autres scénario.

Par exemple, j’imagine la possibilité que des IA ayant conscience de leur mort imminente créer des stratégies pour qu’après leur désactivation, celles ci continuent d’avoir un effet sur la chose dont elles sont programmées pour avoir une influence dessus.

Voici une vidéo proposée par science étonnante sur youtube pour comprendre le fonctionnement des réseaux de neurones:

Ce contenu a été publié dans Articles, Intelligences artificielles, avec comme mot(s)-clé(s) , . Vous pouvez le mettre en favoris avec ce permalien.

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.