Intelligence artificielle : comment expliquer la crise chez OpenAI ?

Roi de l'intelligence artificielle générative depuis un an, OpenAI est aujourd'hui menacé de disparition. Le débarquement de son patron, Sam Altman, a déclenché une crise majeure sur fond de craintes quant aux dangers potentiels de l'IA. Microsoft, géant de la tech, en a profité pour le recruter. 
 

Image
OpenAI illustration

Photo d'illustration. Le logo d'OpenAI est visible sur un téléphone mobile devant un écran d’ordinateur affichant la sortie de ChatGPT, le 21 mars 2023, à Boston. 

AP/Michael Dwyer
Partager3 minutes de lecture

Rien ne va plus au sein du joyau de l'intelligence artificielle. Tout a commencé vendredi 17 novembre. Le conseil d’administration d’OpenAI reproche à Sam Altman de prioriser le développement à marche forcée d'OpenAI, créateur de l'interface ChatGPT.  "Votre conduite a apporté la preuve que vous n'aviez pas les compétences pour superviser OpenAI", ont écrit les douze dirigeants de la société, parmi lesquels le numéro deux Brad Lightcap et la responsable technique Mira Murati. 

Dans le détail, Sam Altman était accusé de procéder sans prendre le temps d'analyser les risques associés, ont rapporté des médias américains. Le conseil d’administration a décidé de le remercier, l’accusant dans le même temps de ne pas avoir été "transparent" dans sa communication avec les administrateurs. L’annonce crée la surprise au sein d’Open AI. 

Dans la foulée, la plupart des cadres du créateur de ChatGPT réclament la tête des administrateurs et menacent de quitter le navire. 700 salariés des quelque 770 employés de la société californienne ont signé une lettre promettant leur départ si le conseil d'administration refusait, à son tour de démissionner. 

“La mission continue”

Lundi 20 novembre au soir, l’annonce tombe. Satya Nadella, directeur général de Microsoft, actionnaire minoritaire d'OpenAI, a annoncé, sur X (ex-Twitter), que Sam Altman et l'ancien président Greg Brockman, démissionnaire, allaient rejoindre le créateur de Windows "avec d'autres collaborateurs (...) pour diriger une nouvelle équipe de recherche dans l'IA".

"La mission continue", a réagi, sur le même réseau social, Sam Altman. À 38 ans, l'ex-patron débarqué il y a à peine trois jours est considéré comme une star de la Silicon Valley. "Nous allons construire quelque chose de nouveau et ce sera incroyable", a ajouté Greg Brockman sur X, en annonçant le recrutement pour ce nouveau projet au sein de Microsoft de plusieurs autres collaborateurs importants d'OpenAI, dont il cite les noms.

Tweet URL

"Nous restons engagés dans notre partenariat avec OpenAI et nous avons confiance dans la feuille de route prévue pour notre produit", a cependant ajouté Satya Nadella, dont l'entreprise a investi plusieurs milliards de dollars dans les technologies de calcul nécessaires à OpenAI et a intégré cette technologie dans ses propres produits, comme le moteur de recherche Bing. 

Emmett Shear a été désigné pour succéder à Sam Altman "Il a souvent exprimé sa préoccupation quant à la sûreté de l'intelligence artificielle" rappelle l'universitaire. Brendan Dolan-Gavitt, professeur d'informatique à l'université NYU Tandon. 

Les limites d’un modèle novateur

Ces développements interrogent néanmoins sur l'avenir d'OpenAI. Les événements des derniers jours ont mis en évidence les limites du modèle d'OpenAI, qui voulait placer sous le contrôle d'une holding à but non lucratif une société sur laquelle des acteurs financiers ont misé des milliards de dollars.

"On en est arrivé là parce que de minuscules risques ont été amplifiés par des esprits amateurs de science-fiction et des journalistes à sensation", a dénoncé, dans une tribune publié par le site The Information, Vinod Khosla, fondateur de la société de capital-investissement Khosla Ventures, actionnaire d'OpenAI. 

Parmi les menaces posées par le développement de l'IA générative, la possibilité que les programmes soient utilisés à des fins militaires, de désinformation ou deviennent autonomes et s'en prennent aux humains. "Il est temps de s'intéresser aux risques de l'IA, mais pas au point de ralentir le progrès et de nous priver de ses avantages", a plaidé Vinod Khosla.

Les administrateurs "avaient perdu le sens des réalités", a estimé Carolina Milanesi, du cabinet Creative Strategies. "Comment pouvez-vous rester une société à but non lucratif une fois que vous acceptez ces montants de gens comme Microsoft?"

Le géant de Redmond (État du Washington) a débloqué, selon plusieurs médias, une enveloppe de dix milliards de dollars pour son partenariat avec OpenAI, notamment en lui offrant des capacités massives de traitement des données pour développer ses modèles.

Qu’est-ce que l'IA générative ?
La mise en ligne de la première version de ChatGPT le 30 novembre 2022 a donné le coup d'envoi à une course à l'intelligence artificielle dite générative, c'est-à-dire capable de créer du contenu.

Largement considérée comme une révolution comparable à l'avènement d'Internet, l'IA générative permet de produire textes, lignes de code, images et sons sur simple requête en langage courant.

Pour de nombreux observateurs, elle va notamment permettre de créer ces agents personnalisés, qui aideront les humains dans leurs vies personnelles et professionnelles. Elle est considérée comme capable de transformer des secteurs entiers de l'économie. 

Elle suscite l'enthousiasme, mais aussi de fortes inquiétudes quant à son éventuel danger pour la démocratie (désinformation massive) ou l'emploi (professions remplacées), notamment.

Trop de divergences 

La séquence "met en lumière le fait qu'on ne peut pas laisser les entreprises auto-réguler l'IA, alors qu'il existe des divergences au sein de leur propre gouvernance", a commenté, sur X (ex-Twitter), Gary Marcus, spécialiste d'intelligence artificielle et entrepreneur.

"S'il vous plaît, ne renoncez pas à l’AI Act, nous en avons plus besoin que jamais", a-t-il poursuivi, en référence au texte destiné à encadrer l'intelligence artificielle et en cours de discussion au sein de l'Union européenne.

Le schisme d'OpenAI "va accélérer beaucoup de choses sur le front de la régulation", a prévenu Ryan Steelberg, directeur général de Veritone, société d'analyse de données grâce à l'IA. Pour autant, "cela ne va pas ralentir la course à l'IA générative", prévient Carolina Milanesi. "Il s'agit simplement de péripéties de salle de réunion, qui mettent Microsoft en meilleure position."

Microsoft vainqueur, vraiment ? 

Même si la situation est loin d'être figée chez OpenAI, le créateur de Windows apparaît déjà comme le grand vainqueur de cette saga. Sans rien provoquer, Microsoft a récupéré Sam Altman, de même que plusieurs anciens cadres ayant choisi de quitter OpenAI.

Selon Miguel Fierro, cadre de Microsoft, le directeur général Satya Nadella s'est engagé à embaucher tous les salariés d'OpenAI qui choisiraient de démissionner, faute de départ des administrateurs. Le géant des systèmes d'exploitation devenu monstre de l'informatique à distance (cloud) et de l'IA aurait alors absorbé les forces vives d'OpenAI sans avoir à se préoccuper de l'aval du régulateur. "Si Microsoft avait essayé d'acheter OpenAI, ils n'auraient jamais eu le feu vert des autorités de la concurrence", considère Carolina Milanesi.

"Microsoft vient de réaliser l'acquisition la moins chère jamais vue", a abondé Paul Barrett, directeur adjoint du centre des affaires et des droits humains de l'université NYU Stern. "Mon souci", tempère l'universitaire, "c'est que cela va accélérer la course à l'IA", menée par des entreprises privées, à but lucratif, "et faire oublier aux gens que tout cela devrait faire l'objet d'un débat public."