OrigineBlog Altman

Les images ont du pouvoir, je l’espère. Normalement, nous essayons d’être assez privés, mais dans ce cas, je partage une photo dans l’espoir qu’elle puisse dissuader la prochaine personne de lancer un cocktail Molotov chez nous, Peu importe ce qu’ils pensent de moi.

La première personne l’a fait hier soir, à 3h45 du matin. Heureusement, il a rebondi sur la maison et personne n’a été blessé.

Les mots ont aussi du pouvoir. Il y a quelques jours, il y avait un article incendiaire à mon sujet. Quelqu’un m’a dit hier qu’il pensait que cela arrivait à un moment de grande anxiété à propos de l’IA [1] et que cela rendait les choses plus dangereuses pour moi. Je l’ai écarté.

Maintenant, je suis réveillé au milieu de la nuit et énervé, et je pense que j’ai sous-estimé le pouvoir des mots et des récits. Cela semble être le moment idéal pour aborder quelques points.

En premier, ce que je crois.

*Travailler pour la prospérité pour tous, donner du pouvoir à tous et faire progresser la science et la technologie sont pour moi des obligations morales.

*L’IA sera l’outil le plus puissant que quiconque ait jamais vu pour étendre les capacités et le potentiel humains. La demande pour cet outil sera essentiellement illimitée et les gens en feront des choses incroyables. Le monde mérite d’énormes quantités d’IA et nous devons trouver comment y parvenir.

*Tout ne se passera pas bien. La peur et l’anxiété suscitées par l’IA sont justifiées ; nous sommes en train d’assister au plus grand changement dans la société depuis longtemps, et peut-être même jamais. Nous devons améliorer la sécurité, ce qui ne consiste pas seulement à aligner un modèle—. Nous avons besoin de toute urgence d’une réponse à l’échelle de la société pour résister aux nouvelles menaces. Cela inclut des éléments tels qu’une nouvelle politique visant à aider à traverser une transition économique difficile afin de parvenir à un avenir bien meilleur.

*L’IA doit être démocratisée ; le pouvoir ne peut pas être trop concentré. Le contrôle de l’avenir appartient à tous les peuples et à leurs institutions. L’IA doit responsabiliser les gens individuellement et nous devons prendre collectivement des décisions concernant notre avenir et les nouvelles règles. Je ne pense pas qu’il soit juste que quelques laboratoires d’IA prennent les décisions les plus importantes concernant la forme de notre avenir.

*L’adaptabilité est essentielle. Nous apprenons tous quelque chose de nouveau très rapidement ; certaines de nos croyances seront justes et d’autres fausses, et parfois, nous devrons changer d’avis rapidement à mesure que la technologie se développe et que la société évolue. Personne ne comprend encore les impacts de la superintelligence, mais ils seront immenses.

Deuxième, quelques réflexions personnelles.

En réfléchissant à mon propre travail au cours de la première décennie d’OpenAI, je peux souligner beaucoup de choses dont je suis fier et un tas d’erreurs.

Je pensais à notre prochain procès avec Elon et je me souvenais à quel point je tenais la ligne sur le fait de ne pas être prêt à accepter le contrôle unilatéral qu’il souhaitait sur OpenAI. Je suis fier de cela, et du chemin étroit que nous avons parcouru alors pour permettre l’existence continue d’OpenAI, et de toutes les réalisations qui ont suivi.

Je ne suis pas fier d’être réticent aux conflits, ce qui a causé beaucoup de souffrance à moi et à OpenAI. Je ne suis pas fier de m’être mal comporté dans un conflit avec notre précédent conseil d’administration qui a conduit à un énorme désordre pour l’entreprise. J’ai commis de nombreuses autres erreurs tout au long de la trajectoire insensée d’OpenAI ; je suis une personne imparfaite au centre d’une situation exceptionnellement complexe, essayant de m’améliorer un peu chaque année, toujours travailler pour la mission. Nous savions dès le départ à quel point les enjeux de l’IA étaient énormes et que les désaccords personnels entre des personnes bien intentionnées qui me tenaient à cœur seraient considérablement amplifiés. Mais c’est une autre chose de vivre ces conflits amers et de devoir souvent les arbitrer, et les coûts ont été sérieux. Je suis désolé pour les gens que j’ai blessés et j’aurais aimé en apprendre davantage plus rapidement.

Je suis également très conscient qu’OpenAI est désormais une plateforme majeure, et non une startup décousue, et que nous devons fonctionner de manière plus prévisible dès maintenant. Ces dernières années ont été extrêmement intenses, chaotiques et pleines de pression.

Mais surtout, je suis extrêmement fier que nous accomplissions notre mission, qui semblait incroyablement improbable au début. Contre toute attente, nous avons compris comment créer une IA très puissante, comment amasser suffisamment de capital pour construire l’infrastructure nécessaire à sa mise en œuvre, j’ai compris comment créer une entreprise et une société de produits, j’ai compris comment fournir des services raisonnablement sûrs et robustes à grande échelle, et bien plus encore.

Beaucoup d’entreprises disent qu’elles vont changer le monde ; c’est ce que nous avons fait.

Troisième, quelques réflexions sur l’industrie.

Ce que je retiens personnellement de ces dernières années et ce que je comprends pourquoi il y a eu tant de drames shakespeariens entre les entreprises de notre secteur, se résume à ceci : “Une fois que vous voyez AGI (Intelligence Artificielle Générative), vous ne pouvez plus le voir.” Il a une véritable dynamique « anneau de pouvoir ” » qui pousse les gens à faire des choses folles. Je ne veux pas dire qu’AGI est l’anneau lui-même, mais plutôt la philosophie totalisante de “être celui qui contrôle AGI”.

La seule solution que je puisse trouver est de m’orienter vers le partage de la technologie avec les gens au sens large, et que personne n’ait la bague. Les deux moyens évidents d’y parvenir sont l’autonomisation individuelle et la garantie que le système démocratique garde le contrôle.

Il est important que le processus démocratique reste plus puissant que les entreprises. Les lois et les normes vont changer, mais nous devons travailler dans le cadre du processus démocratique, même s’il sera compliqué et plus lent que nous le souhaiterions. Nous voulons être une voix et une partie prenante, mais pas avoir tout le pouvoir.

Une grande partie des critiques adressées à notre industrie proviennent d’inquiétudes sincères quant aux enjeux incroyablement élevés de cette technologie. C’est tout à fait valable et nous saluons les critiques et les débats de bonne foi. Je sympathise avec les sentiments anti-technologie et il est clair que la technologie n’est pas toujours bonne pour tout le monde. Mais dans l’ensemble, je crois que le progrès technologique peut rendre l’avenir incroyablement bon, pour votre famille et la mienne.

Pendant que nous avons ce débat, nous devrions désamorcer la rhétorique et les tactiques et essayer d’avoir moins d’explosions dans moins de maisons, au sens figuré comme au sens propre.

Deboutvote 1427