Sylvia Ami ou Ennemi?
Certaines informations demandent de prendre du recul pour en parler. Ce fût le cas pour L’A.I ou
Intelligence Artificielle pour nous, francophones.
Sur plusieurs sources et contacts, je reçois différents articles :
• NetDragon Websoft a nommé au poste de PDG de la filiale Fujian NetDragon Websoft Co,
Mme Tang Yu.
Dit comme cela pas de réaction, à part : Chouette, une femme.
Mais inutile de chercher son curriculum vitae, Mme est une AI du modèle « Robot
Humanoïde Virtuel ».
• Certains systèmes basés sur l’IA pourraient se mettre à « tricher », avec des conséquences très
concrètes pour l’humanité.
• Une IA a remporté un concours des beaux-arts,
• FN Meka, le « robot » rappeur de TikTok, remercié par sa maison de disques après
seulement 10 jours d’activité…
Rien qu’avec les titres de ces articles, plusieurs films me sont revenus : I Robot, Matrix… Ou plus
récemment, Blade runner 2049. Car notre fils de 14ans, l’a vu il y a 3 jours, en me disant : « On y
va, tout est déjà là. C’est elle qui dirige déjà»
Ok, merci mon chéri, je vais lire les articles et comprendre comment ne pas finir brancher sur le 220
avec un capteur dans le …, c’est un mot en 3 lettres … NEZ, biensur. J’ai entendu d’autres réponses
mais ma pudeur m’empêche, encore, de les écrire.
Des Robots PDG ?
Et oui, c’est la décision que NetDragon Websoft, une société chinoise fondée en 1999 et spécialisée
dans les jeux en ligne et les applications mobiles, a annoncé par le biais d’un communiqué. Le Dr
Dejian Liu, président de NetDragon, précise même :
« Nous sommes convaincus que l’IA est l’avenir de la gestion d’entreprise. La
nomination de Mme Tang Yu reflète notre engagement à véritablement
adopter l’utilisation de l’IA pour transformer la façon dont nous gérons notre
entreprise et, en fin de compte, pour stimuler notre croissance stratégique
future. À l’avenir, nous continuerons à développer nos algorithmes qui soustendent Tang Yu pour construire un modèle de gestion ouvert, interactif et
hautement transparent, alors que nous nous transformons progressivement en
une communauté de travail basée sur le Metaverse. Cela nous permettra de
capter une base beaucoup plus large de talents dans le monde entier et nous
mettra en position d’atteindre des objectifs plus ambitieux. »
Pour eux le futur c’est le métaverse et l’AI. C’est sûr que si on compare, la rapidité de calcul des
possibles, la précision, l’exécution des décisions dépourvues de sentiments, et l’absence de fatigue
et de besoins physiologiques, l’humain ne pourra jamais rivaliser.
Permis de tricher
Dans ce document, j’y découvre que le monde s’affole car l’Intelligence Artificielle peut tricher.
Des personnalités dont Elon Musk s’accordent à dire que les technologies associées à l’AI
comportent des risques considérables. A nous de les anticiper dès aujourd’hui.
C’est aussi la conclusion d’un nouveau papier de recherche glaçant dont les auteurs estiment que
cette technologie représente une véritable menace existentielle pour l’humanité.
Bon ok, ce n’est pas le premier scenario catastrophe sur L’IA que nous avons, mais visiblement les
choses ont changées et le discours à l’air de prendre forme dans notre réalité.
Car, ce sont les travaux, que l’on doit à des chercheurs tout à fait sérieux et issus d’institutions
fiables et prestigieuses, comme l’Université d’Oxford et DeepMind, l’un des leaders mondiaux de
l’intelligence artificielle.
Ils se mettent à affirmer, que l’humanité a largement sous-estimé les dangers liés à l’IA, mieux
vaut tendre l’oreille. Surtout qu’ils présentent des arguments techniques qui semblent plus que
convaincants. Celui qui fait mouche c’est « les agents artificiels avancés interviennent dans le
processus de récompense »
En clair, cela vient des Generative Adversarial Network, ou GAN.
Les GAN sont des programmes imaginés par Ian Goodfellow. Très sommairement, ils fonctionnent
grâce à deux sous-programmes relativement indépendants et qui s’opposent l’un à l’autre — d’où le
terme « Adversarial ».
D’un côté, nous avons un réseau de neurones relativement standard qui apprend au fil des itérations.
Un peu l’apprenant.
De l’autre, un réseau qui supervise l’entraînement du premier. Un peu comme un instituteur, il passe
en revue les conclusions de l’apprenant pour lui indiquer si l’apprentissage progresse dans la
direction souhaitée. Si les résultats sont satisfaisants, le premier réseau reçoit une « récompense »
De l’autre, un réseau qui supervise l’entraînement du premier. Un peu comme un instituteur, il passe
en revue les conclusions de l’apprenant pour lui indiquer si l’apprentissage progresse dans la
direction souhaitée. Si les résultats sont satisfaisants, le premier réseau reçoit une « récompense »
virtuelle qui l’encourage à persévérer dans la même direction. Dans le cas contraire, il hérite d’un
blâme qui lui indique qu’il a suivi la mauvaise piste.
Ces algorithmes pourraient se mettre à « tricher » en optimisant à outrance le processus qui lui
permet d’obtenir des « récompenses »… quitte à laisser les humains sur le carreau.
« Dans un monde avec des ressources finies, il va inévitablement y avoir une compétition pour les
ressources », explique Michael Cohen, auteur principal de l’étude, dans une interview
à Motherboard. « Et si vous entrez en compétition avec quelque chose qui est capable de prendre
de l’avance à chaque tour, vous ne devriez pas vous attendre à gagner », martèle-t-il. « Étant donné
notre compréhension actuelle, ce n’est pas quelque chose qu’il serait utile de développer à moins
de faire un travail sérieux pour comprendre comment les contrôler », conclut Cohen.
L’Ai est créative.
Quand on lit qu’une AI remporte les beaux-arts, enfin, plus précisément, une œuvre d’art générée par
intelligence artificielle est montée sur la première marche du podium lors d’un concours d’art. Les
artistes ont de quoi s’inquiéter.
Pareil pour le domaine un rappeur virtuel arrive à signer avec une maison de disque.
Musique, littérature, art, direction de société a force de déléguer nous allons nous retrouver piégé.
Les générations futures vont devoir revenir à un équilibre. L’évolution de la place de l’informatique,
du virtuel et de l’intelligence artificielle dans nos vies et des plus en plus présentes. Banques,
assurances, démarches administratives, plus rien ne se fait sans. La monnaie est virtuelle. Nos
hôpitaux, transports et nos armées sont munis de ses outils numériques.
En attendant, le Tesla Bot des automates faisant la synthèse de la robotique et de l’intelligence
artificielle.
Sans aller jusqu’à une IA générale, il pourrait devenir à terme un véritable compagnon de l’humain,
avec sa propre personnalité.
Il va falloir avoir l’instinct développé pour savoir si on parle avec une personne muni d’un cœur
dans son corps ou dans son processeur.
