(Musique)
Bonjour Sam.
Merci d'être parmi nous aujourd'hui.
Bonjour Patrick.
Ravi d'être ici, mais je pensais qu'on m'avait invité
pour discuter avec John.
Je pense que John a un problème.
Va-t'en Patrick,
tu es déjà intervenu ce matin.
Désolé Sam,
Patrick fait toujours des apparitions en deepfake pendant mes présentations.
Sortons de ces petites fenêtres pour commencer.
(Musique)
Très bien, j'ai le plaisir
d'accueillir Sam Altman en chair et en os.
Aujourd'hui, Sam est un personnage majeur
de la Silicon Valley.
Vous avez fondé Loopt à l'âge de 19 ans ?
Je crois, oui.
18 ans ?
Et vous étiez sur scène lors du lancement de l'iPhone,
en tant que partenaire clé.
Vous avez vendu Loopt à Green Dot.
Vous avez dirigé Y Combinator pendant de nombreuses années
et vous avez récemment fondé OpenAI, sur laquelle reposent de nombreuses démos,
les requêtes en langage naturel alimentées par GPT
que vous avez vues lors du discours d'ouverture.
Sam, merci.
Merci de me recevoir.
En 2014, vous avez tweeté, bien avant OpenAI,
à ce que j'ai pu lire :
"L'AI peut devenir la meilleure ou la pire chose qui soit,
c'est la technologie la plus volatile que je connaisse."
Où en sommes-nous ?
(Rires)
Je pense que tout va très bien se passer.
D'accord.
Je suis bien plus confiant, je ne me souviens pas
avoir tweeté ça, mais je suis bien plus confiant qu'alors,
sur notre capacité à la gérer.
Je pense que l'arborescence actuelle des technologies est très différente
de celle dont nous disposions et la situation était très différente.
Cette idée de laisser des agents d'apprentissage par renforcement
apprendre à jouer à des jeux de plus en plus complexes,
où le seul but est de battre les humains,
de laisser ça évoluer,
ne m'a jamais semblé être une trajectoire à suivre.
Actuellement, nous avons des systèmes optimisés
pour nous aider à travailler de manière à observer
ce qu'ils font à chaque étape.
Et même si nous ne voyons pas exactement ce qu'il se passe
dans le réseau neural, ça me rassure.
Ok, pourtant vous étiez plutôt pessimiste
vis-à-vis de l'IA par le passé, vous disiez que c'était dangereux.
Vous l'êtes moins maintenant ?
Oui, enfin, je pense que nous devons l'utiliser
avec beaucoup de sérieux
et qu'il existe un risque existentiel,
mais les équipes d'OpenAI et des autres laboratoires d'IA
travaillent dur et font de grands progrès, même s'il reste du chemin à faire
pour atteindre quelque chose de satisfaisant pour tous.
Il est assez probable que plusieurs personnes ici
qui naviguent beaucoup sur le Web et ont lu beaucoup de publications,
suivent ce que disent les analystes
et devinent pourquoi
certains s'inquiètent à propos de l'IA.
Et puis il y a d'autres personnes,
qui sont plus dans le réel, moins connectées,
qui ne voient rien de mal dans l'avancée de l'IA.
Quand elles pensent que la correction automatique n'est pas encore au point,
elles ne risquent pas d'aller imaginer que l'IA de leur autocorrecteur
pourrait bientôt représenter une menace de mort.
Qu'est-ce qui devrait inquiéter
les personnes qui se soucient de l'IA ?
Combien de personnes craignent vraiment l'IA ?
Quand même pas mal.
Pas beaucoup, super.
(Rires)
Quelque part, je suis d'accord avec vous.
On peut la comparer à un logiciel, pas vrai ?
Les logiciels ont des éléments déterministes et non déterministes.
C'est un peu comme un autocorrecteur élaboré.
Ça, c'est certain.
Je pense d'une toute autre manière,
et je ne cherche pas à faire des tours de passe-passe ici,
on a vraiment compris comment créer des systèmes qui peuvent apprendre,
et on ne saurait trop insister sur l'importance que ça revêt.
Et quand on passe de l'autocorrecteur
à quelque chose de vraiment complexe,
tout n'est pas limpide, il peut y avoir des zones d'ombre.
La capacité des systèmes augmente
pour réaliser des tâches sophistiquées et résoudre des problèmes
de plus en plus complexes de façon autonome,
et ça, ça change la façon dont le monde fonctionne.
Du moins, les choses vont beaucoup plus vite.
Certains systèmes d'IA font aujourd'hui
partie intégrante de notre société.
Ils peuvent prendre différentes directions
mais ils vont radicalement changer les capacités de chacun
et la vitesse à laquelle le monde évolue.
On pourrait faire un parallèle intéressant :
j'ai récemment entendu un avis sur les perturbations financières
et le risque de panique bancaire.
Cette personne disait que les paniques bancaires
sont différentes à l'ère de Twitter.
Oui.
Les cascades informationnelles sont plus virales.
Oui.
C'est un bon exemple, qui montre
que les tweets ne sont pas dangereux par définition,
mais ils ont des répercussions qu'il faut prendre en compte.
La précédente crise financière,
que tout le monde pouvait appréhender,
a eu lieu avant l'arrivée de l'iPhone et de Twitter.
Il y avait des iPhones, mais tout le monde n'en possédait pas,
l'utilisation du mobile était plus limitée.
Certaines personnes étaient totalement désorientées
à cause de deux changements technologiques,
qui sont finalement bien moins importants
et révolutionnaires comparés à ce que sera l'IA.
Vous et vos équipes avez entre vos mains deux puissants projets
avec GPT4, ou les GPT...
Oui.
dans leur ensemble, et aussi ChatGPT.
Et tout le monde dit que ChatGPT est le produit de consommation
avec la plus forte croissance.
Y a-t-il quelque chose de supérieur à ChatGPT ?
Je ne saurais pas vraiment donner de définition.
Comme John l'a mentionné,
j'ai dirigé Y Combinator, et on me demandait mon avis.
Et si vous m'aviez dit, qu'en tant que start-up,
vous vouliez lancer un produit sans boucle virale, fonctions de partage,
ni lien avec les réseaux sociaux,
j'aurais pensé que personne n'allait jamais s'en servir
et qu'on ne pourrait pas l'utiliser sans d'abord s'inscrire.
J'aurais dit "ça ne présage rien de bon".
Aujourd'hui, je pense que j'ai assez donné de mauvais conseils.
(Rires)
ChatGPT est devenu viral
mais pas dans le produit en lui-même.
C'est ça.
Certains publient des captures d'écran de tweets...
Oui, mais, je dirais
qu'il est très difficile de créer une boucle virale.
- Ça a plutôt marché pour Wordle... - Mais, il ne faut pas trop...
- ...mais pas pour très longtemps. - ...écouter l'avis des investisseurs...
- C'est clair. - ...sur les produits.
Je pense qu'on le savait déjà.
Comme mentionné dans le discours d'introduction,
les requêtes en langage naturel sont très intéressantes.
SQL a toujours été utilisé dans l'interface.
Oui.
Le langage naturel rend
l'interface bien plus sympa.
Nous l'avons beaucoup utilisé dans Stripe pour optimiser les requêtes,
et ça fonctionne très bien.
Quels sont vos cas d'utilisation préférés de GPT ?
Vous devez avoir la meilleure liste possible.
C'est une bonne question.
Avant de parler de cas d'utilisation spécifiques, je veux évoquer
que nous avons finalement, et je dirais légitimement,
migré vers une nouvelle interface, et j'en suis ravi.
Pendant longtemps, on a vu les ordinateurs évoluer
pour devenir de plus en plus faciles à utiliser.
Les iPhones avec lesquels vous filmez
sont bien plus faciles à utiliser qu'un ordinateur.
Vous utilisez vos mains plutôt qu'une souris.
C'est plus direct.
Le langage est encore plus naturel et simple,
nous communiquons des concepts très complexes via le langage,
ce qui permet d'obtenir des résultats, et voilà.
Le fait de pouvoir désormais interagir avec les ordinateurs
et cette conception nouvelle des logiciels vont vraiment évoluer
et nous serons surpris de voir
la quantité de situations où cette technologie sera la plus adaptée.
Ça me fait penser à quelque chose d'amusant :
vous souvenez-vous, c'était quand vous travailliez
chez Y Combinator, donc ça doit vous être familier,
du hype cycle qui a eu lieu dans la Silicon Valley
en 2016 ou 2017 autour des bots conversationnels ?
On pensait que c'était le summum.
Au lieu d'aller sur un site Web
de vente de fleurs,
on pouvait communiquer avec un chatbot de fleur
par l'intermédiaire d'une interface linguistique
et acheter des fleurs.
Je me souviens en avoir vu une démo.
Je n'ai jamais trouvé ça très réussi,
parce que les chatbots étaient très maladroits.
Assez stupides, oui.
Pourtant, il faudrait peut-être revenir à cette idée,
qui était probablement excellente.
C'est ce qui se passe en ce moment.
Comme beaucoup d'autres hype cycles technologiques,
c'était exactement ce que les gens cherchaient,
mais la technologie n'était pas assez performante.
Oui.
Et dans la mesure où la technologie permet de le faire,
je pense que les utilisateurs veulent exploiter le logiciel dans ce but.
Oui.
On le constate.
Vous m'avez demandé quelles étaient mes utilisations préférées.
Nous regardons comment les personnes veulent apprendre
avec l'IA pédagogique ou médicale,
comment ils veulent contrôler un ordinateur.
Et, oui, je pense que le souhait des utilisateurs était juste,
mais la technologie n'était pas au point.
Oui, notre approche chez Stripe,
c'est d'identifier les postes avec des tâches uniquement manuelles
ou qui s'occupent de tâches variées,
et, avec l'aide d'une équipe de recherche on leur fournit
les données pertinentes et ce dont ils ont besoin au préalable,
et pour faire tout ce qui est possible.
Préparer en amont leur permet de gagner énormément en productivité.
Oui.
C'est l'une des façons dont on l'envisage.
Parlons un peu du fonctionnement d'OpenAI.
Comment créez-vous... avant de parler de ça,
avez-vous une info en exclusivité à nous donner ?
Vous avez GPT4, ChatGPT.
Cinq, probablement.
Enfin peut-être.
Ok, ou plutôt 4.5,
si on en croit votre système de numérotation.
Y a-t-il des choses intéressantes à venir ?
Je ne parle pas des nouveaux produits,
mais en matière d'orientation...
Oui.
…le public est passionné par les progrès technologiques,
faisons-leur plaisir.
La multimodalité suscite beaucoup d'enthousiasme
et nous voulons...
Expliquez aux novices.
Oui.
Nous voulons que le système interagisse non seulement avec du texte,
mais aussi avec du son, des images et des vidéos,
ou d'autres choses, qui sait.
Evidemment, ce qui est surtout demandé
par les utilisateurs, c'est d'avoir une meilleure fiabilité.
Si on pouvait avoir la meilleure réponse parmi 10 000 autres
pour chaque requête GPT4, on serait probablement satisfait
la plupart du temps.
C'est un système très intelligent.
Il n'est simplement pas distribué de façon uniforme
pour une requête standard.
Donc, si on veut améliorer
et optimiser l'efficacité du système, ce n'est pas rien.
A terme, nous voulons un système qui puisse contribuer
à améliorer la génération de nouvelles connaissances,
mais ça va prendre un peu de temps.
Bonne remarque sur la question de la fiabilité.
J'ai remarqué que les spécialistes de l'IA
adorent utiliser le terme "halluciner"
et aiment inventer des termes pour certaines choses.
On parle donc "d'inférence" pour parler du délai d'exécution
et "d'hallucination" quand le système invente des trucs.
(Rires)
Oui, c'est un drôle de terme.
Parfois, on a l'impression...
bref, c'est l'un des principaux problèmes,
et quand nous l'utilisons, nous voulons des réponses justes.
Oui.
Depuis longtemps,
on observe des performances mitigées, des ratés,
dans les performances de GPT.
Et il semblerait qu'on soit en passe de corriger cela ?
On est en passe de l'améliorer considérablement.
Nous l'avons amélioré chaque semaine,
mais il y a une réalité sur l'expérience des gens avec le système,
c'est que les hommes sont indulgents avec leurs semblables
quand ils font des erreurs, et ils le sont très peu
lorsque les ordinateurs font des erreurs.
Le seuil de résolution de ce problème
est beaucoup plus élevé que si c'était à votre collègue de le résoudre.
Donc je pense que ça va prendre un certain temps,
la barre est haute.
Est-ce que GPT invente déjà beaucoup moins de choses
que les humains dans un cadre d'interaction sociale ?
Bien sûr, mais nous devons aller plus loin.
Et vous avez dit qu'il s'améliorait de semaine en semaine.
Je suis curieux de savoir comment vous surveillez les performances
du modèle chez OpenAI.
Quel est le...
Nous avons un ensemble d'évaluations.
Et à chaque fois qu'on fait un réglage précis
ou qu'on crée un modèle, on le surveille constamment
pour voir son effet avec tous les autres éléments.
Vous parlez de l'IPC
où il faut constamment changer ce qu'il y a dans l'évaluation ?
Il faut les rendre toujours plus difficiles.
Oui.
Vous savez, il reste du chemin à faire
en ce qui concerne la robustesse.
Oui, oui.
Avec l'évaluation.
Parlons du fonctionnement d'OpenAI.
Là encore, je pense que de nombreuses personnes
sont très intéressées.
Vous combinez la recherche
et le développement de produit, ou...
C'est ça.
Je pense que ça intéresse le public,
et, plus globalement, votre philosophie autour d'OpenAI.
Je veux d'abord préciser que son fonctionnement
change tous les ans, voire moins.
Nous sommes toujours sur la pente raide
de la courbe technologique, beaucoup de personnes
ont des idées géniales.
Il y a une citation "Tout le monde a un plan
jusqu'au premier coup de poing dans la face" ?
Oui, Mike Tyson.
- Oui. - Oui.
Et vous vous recevez un coup de poing
et réalisez que la structure de l'organisation doit changer,
ou ce que vous alliez faire ou le produit que vous vouliez créer
est impossible, ou qu'il existe quelque chose de mieux,
qui sait.
Ce que nous essayons d'encourager, ce qui nous différencie,
c'est que nos méthodes sont très axées sur la recherche de vérité.
Nous voulons que tout fonctionne.
Qu'importe si nos idées ne sont finalement pas bonnes.
Et l'une des choses qui à mon avis a freiné le développement dans ce domaine
ce sont les freins liés à la recherche qui existent depuis longtemps,
toute la recherche théorique
autour de l'IA préférait que certaines approches fonctionnent
plutôt que la technologie en elle-même.
L'idée c'est qu'on fera tout ce qu'il faudra,
on suivra la vérité où qu'elle conduise.
Si pour y parvenir, il faut augmenter les capacités
de systèmes vraiment énormes,
ce qui est moins satisfaisant que de découvrir un super algorithme,
si c'est ce qui fonctionne,
on va dans cette direction.
C'est une culture que nous avons forgé dès le début,
mais ça implique une assez grande imprévisibilité.
Peut-on dire que l'IA présente une sorte de cyclicité ?
On découvre de nouvelles techniques
qu'on soumet à toute une pile de calculs, puis on revient,
on découvre de nouvelles techniques, qu'on soumet à une pile de calculs.
Le succès n'est-il pas, comme vous disiez,
de ne pas trop se focaliser sur la pile de calculs qu'on envoie ?
On peut dire qu'il existe un caractère cyclique,
mais cette idée de soumettre le système à un tas de calculs
n'existait pas du tout jusqu'à il y a quelques années.
Vraiment ?
Oui, cette idée n'est pas si vieille.
Ou disons que les gens se l'imaginaient peut-être de façon abstraite,
mais, en dehors de nous, personne ne disait :
"développons ce modèle de langage, travaillons l'ingénierie pure et dure".
Ça serait un peu maladroit de la part d'un ingénieur...
Exactement.
...de dire "on va forcer les choses".
- Exactement. - Oui.
Je n'aime pas... Et vous savez, on va ensuite...
les gros ordinateurs seront très importants, c'est certain.
Nous avons exploité le plus facile.
Oui.
Il nous reste maintenant à décortiquer
ces toutes nouvelles idées.
C'est comme si vous crochetiez une serrure avec un pied de biche.
Nous avons ce nouvel outil,
le système GPT, qui nous aide à faire toutes sortes de choses.
Oui. Et comment créez-vous une culture
axée sur la recherche de la vérité ?
Les équipes ont un rôle clé.
Comme dans toute entreprise, tout est une question de personnes,
en particulier pour les premières embauches,
nous avons fait attention à qui elles étaient
et qui elles n'étaient pas.
Au début, nous avons essayé de travailler
avec des personnes qui avaient un assez grand renom,
mais les choses ne se sont pas déroulées
comme nous l'imaginions.
Selon vous, il est donc assez important
qu'il n'y ait pas de clivages vis-à-vis des techniques.
Il faut être ouvert d'esprit.
Oui, il y a beaucoup de mouvement interne
entre les équipes, des équipes se forment, d'autres cessent,
des personnes partent travailler ailleurs.
C'est quelque chose de clé dans notre façon de travailler,
qui se distingue des méthodes
de beaucoup de gens.
Comment savoir si une recherche
mérite d'être financée ?
Parce que là encore, avec un produit, on peut voir
si les personnes l'utilisent ou non.
Le feedback se fait en temps réel.
L'une des caractéristiques de la recherche,
c'est qu'on peut travailler cinq ans sans vraiment arriver à quelque chose
et d'un coup c'est parti.
Oui, c'est aussi simple que cela.
Il faut accepter que les horizons temporels soient plus longs.
Et voici un autre aspect
de nos méthodes pour réussir :
les équipes ne doivent pas être tributaires
des validations externes.
Tout le monde l'est dans une certaine mesure,
rien ne sert de prétendre le contraire, mais vos équipes
ne doivent pas trop l'être.
Si on opte pour une approche parce qu'on pense
qu'elle va marcher, et que des spécialistes
disent que ça ne va pas marcher, et ils sont généralement plus directs,
il faut que des personnes continuent à faire le même travail.
Même en l'absence de dopamine,
de ces rappels fréquents à la réalité,
quand on étudie une idée qui n'a pas été encore prouvée,
certaines personnes doivent être prêtes à persévérer
pendant cette longue période d'incertitude.
Il semble que vous ayez encouragé
les échanges entre les équipes de l'entreprise.
Il ne s'agit pas de travailler dans une même équipe
pendant cinq ans,
vous encouragez le mouvement entre les équipes.
Oui.
Il s'agit de votre troisième start-up
si on considère que YC en est une ?
Oui.
Est-ce que vous dirigez OpenAI différemment,
ou essayez-vous de la diriger différemment
de vos entreprises précédentes ?
Diriger un groupe de recherche est très différent,
et diriger une société d'investissement est autrement différent.
A mon avis, certaines choses s'apprennent,
interagir avec les personnes par exemple.
C'est quelque chose qu'on garde.
Je crois qu'en général, les gens essaient d'appliquer
des leçons qu'ils ont apprises par le passé,
mais je crois qu'il faut vraiment démarrer avec un regard nouveau
et s'adapter à ce qui se présente à vous.
Avec OpenAI, nous sommes allés à l'encontre
de quasiment tous les enseignements d'YC.
Nous avons mis quatre ans et demi à lancer un produit,
nous allons devenir la start-up avec la plus forte intensité capitalistique
de l'histoire de la Silicon Valley.
Nous avons créé une technologie
sans avoir aucune idée des futurs consommateurs
et de l'utilisation qu'ils en feraient.
Blague à part, est-ce que certains investisseurs
vous montraient du doigt et vous disaient que vous vous y preniez mal
d'une manière ou d'une autre ?
Oui, et ma réaction a été de dire
"ça n'a pas d'importance, n'investissez pas.
Vous êtes libres de vendre vos actions à d'autres personnes".
On voit là une différence avec les autres start-up,
où l'accomplissement personnel prend plus de place.
Oui.
Il ne faut pas y accorder trop d'importance.
Oui, mais nous...
C'est un apprentissage profond.
...nous avons changé ça.
Actuellement, OpenAI,
ChatGPT est sur toutes les lèvres.
Ces produits fonctionnent extrêmement bien.
GPT4 apporte une valeur réelle considérable aux utilisateurs.
J'imagine que vous n'avez pas toujours pensé que c'était gagné.
Vous avez peut-être des anecdotes...
Oui.
Racontez-nous.
J'en ai, mais disons que personne n'est tout à fait honnête
quant à la difficulté des débuts,
parce que c'est gênant avec le recul.
(Rires)
J'entends quelques rires nerveux.
Les débuts d'OpenAI ont été très difficiles,
certaines choses ne fonctionnaient pas.
Notre équipe était extrêmement hétéroclite.
Nous étions la risée
des personnes importantes du secteur.
Il y avait quelqu'un d'assez connu
à la tête d'un laboratoire d'IA qui n'est plus aussi performant qu'OpenAI,
qui réagissait lorsque les médias écrivaient des choses positives
sur OpenAI, en disant
"je ne comprends pas pourquoi vous dites ça.
Ces gens-là ne sont pas bons."
Vous vous êtes embrouillés avec Elon Musk ?
On s'est embrouillés avec Elon Musk.
Au-delà de ça, nous ne réalisions
aucune avancée technologique.
Nous n'avions que des petites choses.
Certains projets ont fonctionné.
Nous avons même créé Doda, qui nous a permis de lever
des fonds de Microsoft pour développer les modèles GPT,
mais nous n'étions pas sûrs du tout de comment procéder
pour créer l'IAG,
et nous étions bien loin derrière DeepMind.
Beaucoup nous disaient : "pourquoi vous faites ça ?
DeepMind est intouchable."
Personne n'avait encore compris l'idée des modèles linguistiques.
Personne n'avait eu l'idée d'y associer une API
ou de lancer ChatGPT.
Donc oui, on n'était pas en bonne posture,
c'était difficile.
On a juste continué à mettre un pied devant l'autre.
On manquait toujours d'argent,
de ressources matérielles ou humaines, mais on a continué
et quelque chose a fini par fonctionner.
Quand vous dites qu'il faut continuer,
si on réfléchit au but, toutes les entreprises
qui atteignent un certain niveau de développement
traversent de mauvaises passes.
Quand je repense aux mauvaises passes de Stripe,
il y avait un moment où, juste après un lancement,
après le pic d'endorphine, plusieurs personnes de la première heure
partaient d'un seul coup.
C'est très éprouvant,
on perd de l'assurance et on se demande ce qui nous pousse à continuer.
Avoir des idées qui nous motivent peut aider.
Mais dans notre cas,
il y a une dynamique autour du service aux clients...
Oui.
...qui nous pousse
à continuer à aller de l'avant pour répondre aux requêtes de l'API
et servir les clients.
Oui.
On n'a pas vraiment le choix.
Tandis que vous,
vous faites plutôt de la recherche fondamentale.
Vous n'aviez pas cette dynamique de service aux clients,
n'étiez-vous pas tentés de prendre vos affaires et de partir ?
Nous avons eu beaucoup...
Silicon Valley a été l'endroit idéal pour les laboratoires de recherche,
puis ça n'a plus été le cas, donc nous n'avons pas eu...
il existe de très bons conseils pour créer une start-up de produits,
et c'est tout à fait vrai.
C'est d'ailleurs l'une des raisons pour lesquelles YC insiste sur ce point.
Une fois que vous avez des clients à servir,
vous ressentez vraiment ça, ils créent cette dynamique.
L'une des choses que nous avons dû redécouvrir sur la gestion
d'un laboratoire de recherche, c'est comment garder
cette dynamique interne lorsqu'on n'a pas de clients
ou de contact avec la réalité pour savoir si on est sur la bonne voie,
c'est très difficile.
Avoir de bons collègues est important.
Nous aimerions mettre en place
suffisamment de points de contact externes qui,
pour notre propre équilibre mental, le mien y compris, remplaceraient
le feedback des consommateurs,
mais il y a beaucoup de choses à redécouvrir pour y parvenir.
Vous avez mentionné une très forte concurrence
et d'autres acteurs du secteur comme DeepMind.
En vous écoutant, j'ai remarqué que l'IA
était un domaine très concurrentiel,
tout le monde veut dépasser la concurrence
il y a beaucoup d'esprit de compétition,
comme dans le sport, par exemple.
Ça me rappelle les débuts de l'informatique
où Microsoft et Apple
se livraient à une véritable guerre de la concurrence,
et puis il y a les autres acteurs du secteur,
qui sont tous très bien.
C'est un peu plus cool d'une certaine façon.
Et donc ces mouvements ultrarapides...
En réalité, je pense que le secteur de l'IA
est très concurrentiel, comme vous l'avez dit,
mais il l'est dans une moindre mesure,
car je pense que tous ceux qui travaillent dans le milieu
savent ce qui est en jeu et veulent que tout se passe bien.
Et même s'il y a des gens qui veulent aller plus vite
et cette idée d'isolement,
le secteur valorise la collaboration et souhaite que les choses évoluent bien,
et c'est ce qui le distingue de tout ce que j'ai pu voir.
Quelle forme prend la collaboration ?
Il s'agit principalement
d'échanges entre les dirigeants des laboratoires.
Mais je pense que les pouvoirs publics vont commencer à faire de même.
Qu'est-ce qui va se passer avec les pouvoirs publics ?
On parle beaucoup de réglementer l'IA.
Que doit-on...
Je vais vous dire ce que je voudrais.
Je ne sais pas ce qu'ils vont faire.
Les systèmes informatiques, quand on dépasse un certain seuil
en faisant évoluer les algorithmes,
sont aussi puissants pour faire le bien
et le mal que n'importe quelle autre technologie existante.
Je voudrais qu'il y ait une agence comme l'IAEA,
l'agence internationale de l'énergie atomique,
pour l'IA.
Et donc, lorsqu'un grand système d'apprentissage d'IA est créé,
et que l'entraînement des modèles dépasse un certain niveau,
une autorité de régulation mondiale
devrait pouvoir dire :
"Voici le test à passer avant le déploiement.
Voici les normes des audits."
Attendez, vous savez, en Europe, avec la sortie du nucléaire
et la mise en route de nouvelles centrales à charbon,
il semble qu'on fasse un pas en arrière pour le climat.
Est-ce qu'on veut vraiment se baser
sur le système de réglementation nucléaire mondial ?
Depuis 1945, aucune bombe n'a explosé pendant une guerre,
et je pense que la plupart des gens
auraient pensé cela très peu probable en 1945.
Ça n'a pas été parfait.
Il y a certainement eu un problème du côté de l'électricité,
mais je ne pense pas que ce soit la faute de l'IAEA.
Je crois que la Commission de réglementation nucléaire américaine
n'a jamais approuvé une usine qui a ensuite été construite
au cours de ses 45 années d'existence, ce qui est incroyablement honteux.
Mais oui, aucune bombe n'a explosé.
Et vous en attribuez le mérite, au moins dans une certaine mesure...
Du moins en partie.
...à l'AIEA.
En parlant du nucléaire,
Sam, qui a fait l'introduction, a réalisé de grandes choses
pendant son temps libre,
et il a aussi été le principal partenaire financier d'Helion,
qui je crois est la première start-up dédiée à la fusion nucléaire.
- Devons-nous nous réjouir de... - Nous devons nous en réjouir.
...l'apparition prochaine de la fusion ?
La fusion fonctionnera.
Ce qui n'est pas clair...
- Pardon, la fusion fonctionnera ? - La fusion fonctionnera.
Vous avez entendu.
Mais...
Désolé, je l'ai déjà mentionné dans un tweet.
Ce qui compte, c'est de savoir à quel prix
nous pouvons produire l'énergie de ce système
et à quelle vitesse nous pouvons la déployer dans le monde.
Ce sont là deux défis considérables.
Ce n'est peut-être pas aussi difficile que de réussir sur le plan physique,
mais presque.
Il est donc tout à fait possible de parvenir à un monde
où la fusion fonctionne, mais elle serait plus chère
que l'énergie solaire et son stockage.
Ce serait vraiment dommage.
Il est tout à fait possible que la fusion fonctionne et qu'elle soit bon marché,
mais nous ne pouvons pas fabriquer les milliers de gigawatts
de capacité de production nécessaires pour la Terre.
Et si les deux choses se produisent, si le coût diminue
d'un facteur 10 ou 100, la demande s'emballe
et il est très, très difficile d'en produire suffisamment.
Mais je pense qu'on trouvera probablement une solution.
On devrait parvenir à un monde
où le coût de l'intelligence diminuera considérablement,
de même que le coût de l'énergie.
Et si ces deux choses se produisent en même temps,
je dirais qu'elles sont actuellement les deux intrants
les plus importants de toute l'économie.
La situation serait très différente.
Oui, et j'allais dire, est-ce que ces deux choses
sont plus reliées qu'on ne le pense, où l'électricité...
- A tous ces égards... - ...est l'un des facteurs limitants.
Oui, à tous ces égards elles le sont.
Si vous voulez vraiment créer un système super intelligent,
le plus grand et le plus performant possible,
vous avez besoin d'énormément d'énergie.
Et si vous disposez d'une IA qui vous aide à aller plus vite
et à améliorer la science des matériaux, vous pourrez sans doute obtenir la fusion
un peu plus rapidement aussi.
En remontant l'arbre du texte,
et qu'on se penche sur Helion par exemple,
on pense à des questions intéressantes sur les dépendances.
Est-ce que les Romains auraient pu avoir leur propre
révolution industrielle ou quelque chose de ce genre ?
Est-ce qu'il y avait des besoins de technologie ?
Est-ce qu'Helion aurait pu faire ce qu'elle fait
dans les années 60 ?
- Non. - D'accord.
C'est toujours amusant de voir la tournure des choses,
mais l'apparition du semi-conducteur
a permis de développer les commutateurs
qu'Helion utilise aujourd'hui.
Ça aurait été impossible il y a 10, 15 ans.
La science des matériaux, les progrès réalisés
pour de nombreuses parties de la machine, la modélisation informatique
nécessaire pour comprendre le fonctionnement du plasma,
rien de tout cela n'aurait été possible auparavant.
C'est le fruit de décennies
de recherche en sciences des matériaux...
- Sur de nombreux... - ...et en modélisation informatique ?
Oui, c'est le fruit d'avancées majeures
dans cinq domaines différents, et multipliées ensemble.
On peut donc faire des choses qui étaient totalement impossibles
la dernière fois qu'il y a eu des efforts sérieux
en matière de fusion.
D'accord. Désolé, j'ai changé de sujet.
Revenons à la réglementation de l'IA,
vous pensez que limiter les capacités de calcul serait une façon pragmatique...
Je ne les limiterais pas.
Enfin, il faudrait peut-être le faire à certains moments,
mais ce n'est pas la solution sur le long terme.
Je dirais que l'augmentation des seuils
s'accompagne d'une augmentation des exigences réglementaires.
Si vous créez un système
susceptible d'avoir des capacités très puissantes, vous devez être soumis
à un cadre réglementaire différent de celui qui s'appliquerait pour entraîner
un modèle sur votre ordinateur portable.
Vous pensez qu'on va revenir à une régulation
par le biais du protectionnisme,
où les personnes protégeront leur territoire,
où les juristes savent ce qu'il faut faire, où certaines choses
nécessitent l'action d'un juriste.
Pourquoi ? Parce que nous fixons les règles,
nous sommes les hommes de loi.
Vous savez, c'est quelque chose qui me préoccupait.
Et ça me préoccupe toujours un peu.
On voit beaucoup d'erreurs,
où certains ont essayé de protéger des projets qu'ils venaient...
ce n'est pas une stratégie gagnante.
Je pense que la teneur du débat s'oriente rapidement vers...
L'IAG est très différente
de tout ce qu'on a connu, gardons ça en tête.
Regardez, il y a dans cette salle 3 000 personnes qui travaillent
dans tous les secteurs imaginables, et je pense que beaucoup d'entre elles
travaillent pour des start-up dédiées à l'IA.
Si vous deviez lancer une demande aux start-up de l'IA,
puisque OpenAI via vos API est utilisé
par un nombre considérable, probablement la plupart
des start-up de l'IA, que demanderiez-leur de développer ?
Qu'est-ce qui figurerait parmi vos demandes aux start-up ?
Nous avons déjà abordé ce point,
mais tout ce qui toucherait à la conception d'un nouveau
modèle d'interface qui fonctionne,
d'une sorte d'interface de chatbot à quelque chose
de plus difficile à créer,
comme le copilotage pour tous les types de flux de travail,
c'est un domaine facile à cibler selon moi.
Ce qui se passe dans l'éducation est incroyable.
L'IA pédagogique me surprend vraiment,
et elle peut aller beaucoup plus loin.
Le plus amusant,
c'est qu'on sous-estime toujours l'énergie créatrice du monde
lorsqu'elle se concentre sur quelque chose.
Oui, chez Stripe, on travaille avec énormément
d'entreprises de SaaS verticaux
qui fournissent des logiciels à un marché vertical très spécifique,
c'est une véritable niche.
Il existe des plateformes logicielles très populaires
pour la gestion d'associations scoutes
qui sont nombreuses,
et très occupées.
Elles ont besoin d'une plateforme logicielle pour leur gestion.
Nous le constatons dans tous les secteurs d'activité,
et à mon avis, les plateformes logicielles
deviendront l'outil par lequel d'importants gains de productivité
de l'IA seront plus largement distribués
dans l'économie, la plupart des entreprises n'étant pas technologiques.
Le SaaS est probablement le moyen de réaliser une grande partie
de ces gains de productivité.
C'est probablement vrai,
mais mes intuitions sont incertaines.
Peut-être qu'on pourrait exploiter davantage les sources
principales de gains, en disant
"IA, résous tous les problèmes", elle pense, vous donne la réponse,
et vous obtenez la solution.
Ça serait sympa.
C'est évidemment très intéressant.
(Rires)
Ça serait très intéressant, et, vous avez mentionné l'éducation,
on peut citer l'effet deux sigmas de Bloom, où, en cours individuel,
on utilise des techniques d'apprentissage par la maîtrise
où on attend que l'enfant ait réellement compris
avant de passer au niveau suivant.
On appelle ça l'effet deux sigmas de Bloom,
car ça produit deux sigmas d'amélioration des performances
par rapport au point de référence, c'est super intéressant.
Voilà pourquoi l'IA pédagogique est si surprenante,
elle est capable de faire exactement ça,
individuellement.
- Deux sigmas, c'est beaucoup... - C'est beaucoup.
- ...de sigmas. - C'est beaucoup de sigmas.
Avez-vous des conseils
pour les entreprises non spécialisées dans l'IA et qui souhaitent l'exploiter
pour leurs activités ?
Oui, la productivité en interne.
On voit une grande divergence entre les entreprises
qui exploitent les outils d'IA à un niveau individuel ou global
par rapport à celles qui ne l'exploitent pas.
Que votre activité ait un rapport avec l'IA ou non,
vous pouvez certainement trouver un moyen d'améliorer nettement
votre productivité par unité de temps,
et je pense qu'il serait dangereux de ne pas apprendre à le faire.
Quand vous évoquez l'IAG,
il reste trois, cinq ans ?
Que pensez-vous ?
Honnêtement, sur ce point, les règles changent tellement
qu'à ce stade, nous devrions parvenir
à un accord très précis sur les définitions
pour pouvoir vous donner une certaine fourchette.
Quelle serait votre propre définition ?
La mienne évolue aussi
à mesure qu'on s'en approche.
Je dirais que l'IAG est un système
qui peut considérablement accélérer les progrès scientifiques.
Et ça ne veut pas forcément dire
qu'il y aura un système qui, tout seul,
fera des découvertes scientifiques.
Je ne pense pas que ça arrivera,
mais, d'une façon ou d'une autre, en collaborant avec nous
et en prenant place dans toutes les dimensions de la société,
les progrès scientifiques collectifs s'accélèreront énormément
et je pense que ça se produira d'ici la fin de la décennie.
Oui, si vous vous basez
sur ce critère, ça arrivera bientôt.
Oui, mais là encore, il ne s'agit pas
d'un système complètement autonome.
- Certaines personnes l'oublient. - Oui oui.
C'est une définition qui évolue.
Beaucoup de gens l'ignorent probablement :
vous avez été, avec Paul Graham,
le premier investisseur providentiel de Stripe.
Oui.
Pourquoi avez-vous investi chez Stripe ?
J'ai pensé, et je continue de croire,
outre le fait qu'il s'agit de l'un des plus grands marchés,
que si l'on peut supprimer les frictions dans les transactions économiques,
et c'est en partie ce pourquoi Internet est globalement super,
mais seulement en partie, cela permettrait
une croissance énorme de l'économie,
de mieux créer de façon plus rapide, économique,
accessible, tout cela.
Et c'est devenu encore plus vrai.
Je dirais que Stripe a dépassé toutes les attentes,
et cette profonde conviction, je l'ai ressentie à l'époque
et je la ressens fortement aujourd'hui.
J'ai aussi pensé que vous étiez géniaux, toi et Patrick.
C'est tout ce que je recherche dans une start-up,
une idée pour un gros marché que je tiens personnellement à soutenir,
de super fondateurs, quelque chose
de légitime sur le long terme.
Ça fait si longtemps, j'avais signé un chèque physique,
c'était probablement l'une des dernières fois de ma vie.
Mais quand vous dites...
Plutôt ironique pour Stripe quand on y pense.
C'est logique que ça ait été le dernier.
- On peut numériser ça. - Quand on dit "j'ai signé un chèque
pour cette start-up", j'ai vraiment remis
un chèque à Stripe.
On a des systèmes automatisés,
on peut vous numériser ça.
Super.
Actuellement, vous et vos équipes monétisez
ChatGPT avec Stripe.
Un avis sur le produit, monsieur ?
On est très satisfaits.
Et je vais vous dire une chose
que l'équipe est sans doute fatiguée d'entendre à ce sujet.
Elle fait un si bon travail en matière de support client,
de documentation, d'expérience globale,
qu'elle est bien meilleure que n'importe quelle autre start-up.
Chez OpenAI, on va améliorer ça.
Mes excuses à tout le monde.
Il n'y a rien de surprenant là-dedans.
Mais c'est très inspirant, on apprécie.
Vous citez la documentation.
L'un des aspects que j'apprécie,
et c'est aussi un détail comparé aux possibilités de GPT4,
c'est la documentation technique.
Stripe a créé beaucoup de documentation technique approfondie,
mais les utilisations sont très différentes :
par exemple, je veux créer une plateforme aux Pays-Bas
pour permettre aux points de vente d'accepter des paiements
avec le nouveau lecteur S700, qui a la plus grande autonomie
de tous les lecteurs jamais produits,
je veux savoir comment faire la mise en œuvre.
Oui.
GPT4 est vraiment idéal pour faire cela.
Oui, c'est clairement l'avenir.
Oui.
On se connectera à GPT4 ou à un autre système similaire,
on lui posera toutes les questions possibles
et il répondra parfaitement et sur mesure.
J'ai une question précise sur notre produit.
Est-ce que vous utiliseriez le générateur d'intégration de Stripe
pour qu'il vous guide,
ou plutôt que de trop réfléchir,
vous demanderiez à GPT4 de créer votre intégration Stripe.
On essaie encore de trouver la réponse à cette question.
Est-ce que les gens veulent utiliser un chatbot centralisé
pour l'ensemble de leurs tâches,
ou que l'interface de chat soit partout ?
Nous testons donc des versions
pour tout rassembler avec des plugins,
pour faciliter l'intégration
d'expériences conversationnelles ailleurs.
Le monde n'a pas encore décidé.
Oui. Vous et votre équipe devriez présenter votre API,
car, là encore, certains s'inquiètent
de l'utilisation des données.
On veut pouvoir utiliser des données, mais on ne veut pas
qu'elles alimentent les modèles ou le système.
Vous avez résolu tout ça avec votre API.
Oui.
Les gens ne le savent pas forcément.
Nous essayons de dissiper cette idée fausse.
Notre but n'est pas d'entraîner le système avec les données envoyées à l'API.
Votre entreprise peut donc l'utiliser en toute confiance.
Elles ne sont pas envoyées dans notre base d'entraînement.
C'est très important à nos yeux,
nous savons à quel point les données sont sensibles.
Nous ne les conservons pas à long terme, elles ne servent pas à l'entraînement.
Ce sont vos données, nous comprenons parfaitement cela.
Il y a bien d'autres manières d'améliorer nos modèles.
Nous continuerons à faire baisser les prix au fil du temps.
Nous continuerons à améliorer les modèles.
Notre but est de faciliter l'utilisation de notre API,
de la stabiliser sur le long terme,
et, plus nous rendons les modèles intelligents,
plus ils apporteront d'intelligence à Internet
et au secteur des technologies dans son ensemble.
Nous voulons surprendre les gens
en leur montrant combien d'intelligence ils obtiennent pour si peu d'argent.
Et je pense que ça va durer.
A propos des données,
je pense que ce qui surprend, c'est à quel point
les modèles sont petits.
Je ne sais pas si vous avez des choses à dire
sur la petite taille des différents modèles.
Est-ce que l'inférence va se généraliser sur les appareils,
sur site ou sur les appareils individuels ?
Il faudra attendre longtemps avant de pouvoir
exécuter un modèle GPT4 sur nos iPhones,
mais la technologie avance, donc, un jour ou l'autre.
Dans des cas d'utilisation spécifiques donc.
Oui.
Mais probablement pas pour les cas d'utilisation plus courants.
Dernière question, car le temps nous est compté.
Vous échangez avec beaucoup de start-up,
vous les conseillez.
De petites et grandes entreprises,
pas que des start-up, y compris des start-up présentes ici.
En prenant de la hauteur sur 2023, et nous avons beaucoup parlé
de l'IA en particulier, mais si on observe
la macroéconomie, le marché du travail,
les retours au bureau, on en parlait en coulisses,
tout cela, quels conseils donneriez-vous aux start-up aujourd'hui ?
Quelles erreurs observez-vous et essayez-vous de corriger ?
Quel conseil donneriez-vous à tout le monde ?
L'une des pires théories
du secteur des technologies de tous les temps a été de penser
qu'on pouvait définitivement tous passer au télétravail, que les start-up
n'avaient pas besoin de se réunir, que la créativité n'allait pas en pâtir.
Je dirais qu'on a fini d'expérimenter ça,
et que la technologie n'est pas encore assez performante
pour qu'on télétravaille définitivement, en particulier les start-up.
Je suis convaincu que les start-up ont besoin de se réunir,
et plus les idées sont fragiles, nuancées et incertaines,
plus il faut passer de temps ensemble.
C'est quelque chose qu'on n'a pas pu encore transmettre
sur Slack, Zoom, ou autre part.
J'ai discuté avec beaucoup de jeunes start-up
qui ont télétravaillé et continuent de le faire,
et avec d'autres qui ont commencé à travailler en personne
ou qui sont revenues au présentiel, et elles sont différentes.
Il y a une grande rupture ici.
C'est quelque chose de très important.
Pour l'aspect macroéconomique, je ne saurais dire.
Vous avez toujours eu de bonnes prédictions
sur la macroéconomie.
Je ne pense qu'à l'IA maintenant, alors qu'avant, je m'intéressais à tout.
(Rires)
J'avais tout plein d'idées avant, et maintenant je n'en ai qu'une.
L'économie va peut-être revenir à un moment donné.
(Rires)
En réalité, vous êtes aussi précis que de nombreux
pronostiqueurs macroéconomiques sérieux,
ou pronostiqueurs macroéconomiques, mais vous êtes bien plus concis.
Ils utilisent beaucoup plus de mots pour exprimer le même sentiment.
Oui, exactement.
(Rires)
OK.
Donc, on retourne au bureau, et l'économie se rétablira
à un moment donné.
PUBLIC : J'ai une question.
On n'avait pas prévu de temps de question,
mais il semble qu'il en soit autrement.
Nous répondrons à cette question avant de terminer.
(Rires)
La nouveauté.
Bien sûr.
PUBLIC : Il existe un rapport de recherche
sur les capacités émergentes à être plus original
dans la mesure des progrès que la propriété inhérente
aux modèles linguistiques.
La question est la suivante : un rapport de recherche évoque
des propriétés émergentes plus à même de mesurer le progrès
que la propriété inhérente aux modèles linguistiques.
Je n'ai pas connaissance de ce rapport.
Je ne suis pas du tout d'accord.
C'est une question de définition
des propriétés émergentes.
Quand les spécialistes s'expriment
sur le fait qu'il s'agit simplement de prédictions statistiques,
qu'il n'y a rien d'utile là-dedans
par rapport aux retours des utilisateurs de ces modèles.
Les spécialistes font vraiment fausse route ici,
et je pense que vous pouvez ignorer
ces tweets exagérés.
(Rires)
Vous parlez de quelqu'un en particulier.
Je parle de beaucoup de personnes en particulier.
(Rires)
De la même manière, on pourrait dire
qu'il ne s'agit pas vraiment d'un comportement émergent,
mais d'une erreur de mesure.
Si ça fait quelque chose de nouveau et d'utile,
c'est un comportement émergent, si l'utilité est le facteur de mérite.
Au-delà de ça, maintenant que nous pouvons
nous projeter un an ou deux dans l'avenir,
il y aura certainement un comportement qui, de toute évidence,
n'existe pas aujourd'hui et que je qualifierais,
comme beaucoup de gens normaux,
d'émergent, et ce qui compte,
c'est l'utilité qu'il nous procure à terme.
Sam, merci infiniment.
Merci.
(Applaudissements)
Merci pour l'invitation.
(Applaudissements)