Hola, Sam. Gracias por venir.
Hola, Patrick.
Me alegra estar aquí, pero pensaba
que hablaríamos de John.
Creo que John tiene un virus.
Sal de aquí, Patrick.
Ya tuviste tu charla esta mañana.
Disculpa, Sam.
Patrick siempre intenta meterse en mis charlas.
Debamos salir de estos círculos y comenzar.
Muy bien. Me alegra que me acompañe el mismísimo Sam Altman.
Básicamente, Sam es parte de la cultura de Silicon Valley.
¿Fundaste Loopt cuando tenías 19 años?
-Creo que sí. -¿Dieciocho?
Y ya eras parte de la escena cuando se lanzó el iPhone original.
Eras uno de los socios clave. Le vendiste Loopt a Green Dot.
Sam dirigió Y Combinator durante muchos años,
y recientemente fundó OpenAI, que alimenta muchas demos,
como las consultas a GPT con lenguaje natural
que vieron antes en la presentación.
-Sam. Muchas gracias. -Gracias por invitarme.
Hace poco vi que en 2014, mucho antes de fundar OpenAI,
publicaste esto en Twitter:
"La IA podía ser la mejor o la peor innovación de la historia,
con mayor volatilidad de cualquier tecnología que se me ocurra".
¿Qué opinas?
Creo que vamos a estar bien.
-Ok. -Tengo mucha más confianza.
No recuerdo haber escrito eso, pero me siento mucho más confiado
que en ese momento sobre cómo administraremos todo esto.
Creo que el árbol tecnológico actual es tan diferente
al que esperaba para mí y cómo iban a ser las cosas.
Tenía esta idea de que tendríamos agentes de aprendizaje por refuerzo
que aprendieran a jugar en ligas cada vez más complejas
e intentaran ganarles a los seres humanos, y nosotros íbamos a dejar que eso pase.
Esa no era una trayectoria muy prometedora.
Pero creo que lo que hacemos ahora,
con sistemas optimizados para ayudarnos a trabajar
de modo que vemos qué hacen a cada paso,
incluso si no sabemos qué pasa dentro de la red neuronal,
es mucho mejor.
Ya veo. Antes eras pesimista respecto de las IA,
que era muy peligroso.
Parece que cambiaste de opinión, ¿no?
Sí, bueno. Sigo creyendo que debemos tratar esto
con mucha seriedad y que nos enfrentamos
a un riesgo existencial, pero también creo
que con el trabajo duro de OpenAI y otras agencias de AGI,
logramos avanzar mucho y todavía tenemos mucho por delante.
Tendremos una trayectoria que nos hará felices.
Posiblemente haya mucha gente aquí
que sigue de cerca lo que ocurre en Internet
y leen muchas menos publicaciones negativas
y se mantienen al día con las opiniones de los analistas
y quizá esté preocupada por la IA.
Y posiblemente haya gente aquí
que tenga vidas reales y ven el progreso de la IA
y piensan:
"Bueno, el autocorrector sigue sin funcionar tan bien".
Y realmente no pareciera que la IA de mi autocorrector
fuera a matarme en cualquier momento.
Y si la gente va a preocuparse por la IA,
¿qué debería preocuparla?
¿A cuántas personas de aquí les preocupa la IA?
-Un buen número. -No son tantos. Genial.
La verdad es que en un punto
estoy fundamentalmente de acuerdo con ustedes.
Pero en realidad, no es más que software.
Otros tipos de software tienen partes deterministas
o no deterministas. Es como la evolución del autocorrector.
Y podemos aceptar esa forma de pensar.
Pero creo que, por otro lado,
nadie sabe ningún truco. No hay magia.
En esencia, descubrimos cómo hacer sistemas
que puedan aprender y eso es algo realmente importante.
Y cuando deja de ser un buen autocorrector y pasa a ser algo mucho más complejo,
puede no ser algo muy luminoso, puede generar muchas áreas grises.
Pero como estos sistemas pueden hacer tareas mucho más sofisticadas
y entender más cosas de forma más autónoma,
problemas cada vez más complejos que sin dudas cambian cómo funciona
el mundo.
Como mínimo, todo funciona mucho más rápido.
Ahora tenemos estas IA que son parte de la sociedad.
Y podemos tomar muchos caminos diferentes,
pero significa que lo que las personas pueden hacer
y la velocidad en la que evoluciona el mundo es otra.
Quizá una buena analogía
sea una que escuché sobre la reciente crisis financiera
por las corridas bancarias.
Se dijo que las corridas bancarias cambiaron con Twitter.
-Sí. -Ahora todo se vuelve viral,
y la información llega a todos.
-Sí. -Quizá sea un buen ejemplo
de cómo un par de tuits no son peligrosos per se,
pero pueden tener repercusiones considerables.
La gran crisis financiera anterior que todos recordamos
fue anterior a iPhone y a Twitter.
Ya existían los iPhones, pero no todos tenían uno
y no se usaban para todo.
Entonces este fue un ejemplo en el que las personas
se sintieron fuera de eje por dos cambios tecnológicos importantes,
y me atrevo a decir que ambos fueron menores
y menos revolucionarios de lo que la IA va a ser.
Sí. Y ustedes manejan dos grandes potencias
con GPT4 y las otras versiones la serie GPT
y también ChatGPT.
Y todos dicen que ChatGPT es el producto de consumo
que creció más rápido en la historia.
¿A qué aspira ChatGPT?
Realmente no sé a qué aspira,
pero les diré que, tal como dijo John, era director de Y Combinator,
y las personas me pedían consejos.
Y si me hubieran dicho que como startup
lanzaría un producto sin bucles virales, que no tiene una opción para compartir,
sin nada social, que no genera una red,
sin nada, ni ningún motivo por el que alguien la quiera usar
porque alguien más la usa y además de todo,
que no podrías usar ese producto sin registrarte primero,
le hubiese dicho que estaba mal de la cabeza.
Así que ahora siento que di malos consejos por mucho tiempo.
Bueno, pero ChatGPT es viral, solo que no dentro del producto mismo.
-Sí. -La gente comparte capturas de pantalla.
-La gente está… -Cierto, pero hubiese dicho
que inicialmente ese bucle viral era demasiado difícil.
Sí le funcionó a Wordle, supongo.
Pero no por mucho tiempo.
No escuches a los inversores cuando te aconsejan sobre tu producto.
-Siento que ya sabíamos eso. -Cierto.
¿Cuál es tu…? Quiero decir, se dijo al principio,
y nos entusiasman mucho las consultas de lenguaje natural.
-SQL siempre fue parte de la interfaz. -Sí.
Y el lenguaje humano tiene una interfaz mucho más linda.
La usamos en Stripe para la optimización de consultas
y funciona muy bien.
¿Cuáles son tus casos de uso favoritos de ChatGPT?
Debes tener el mejor catálogo.
Cierto. Pero antes de hablar de casos de uso específico,
lo que más me gusta es que creo que finalmente tenemos
una nueva interfaz de computadora.
Llevamos mucho tiempo en este arco en el que las computadoras
se vuelven más fáciles y naturales de usar.
Todos tienen un iPhone y pueden grabar esto.
Eso es mucho más fácil que tener una computadora.
Pueden usar las manos en lugar de un mouse.
Es un poco más directo.
Pero el lenguaje es incluso más natural y más simple.
Y estamos acostumbrados a usarlo para transmitir conceptos complejos
y las cosas pasan y eso es todo.
Entonces que ahora tengamos esta forma novedosa
de interactuar con las computadoras y este nuevo concepto de software
creo que va a llegar muy lejos y una de las sorpresas
será en cuántas cosas esta es la mejor forma de hacerlo.
Creo que una forma de decirlo es esta:
¿recuerdas esto de tus días en Y Combinator?
Supongo que te pasó mil veces.
Por el 2016 o 2017, hubo un período de euforia
en Silicon Valley por los bot de diálogo.
Y la gente pensó que serían lo nuevo y el fin de todo.
Y ya no entrarías al sitio web de 1-800-Flores.com,
sino que hablarías con un bot de flores, una interfaz de lenguaje natural,
y así comprarías flores.
Y recuerdo que hubo una demostración de eso en algún momento.
Y siempre me pareció un poco raro.
-Los bots son tan toscos. -Muy tontos, sí.
Y ahora quizá tenemos que ver eso de nuevo porque así fue.
Claro que ahora va a pasar.
Creo que pasa como con muchos otros ciclos de euforia:
era lo que la gente quería, pero la tecnología no estaba a la altura.
Sí.
Y con lo que la tecnología puede hacer,
creo que es la forma en la que las personas usan el software.
-Sí. -Eso lo vemos.
Me preguntaste mis casos de uso favoritos.
Vemos cómo las personas quieren aprender cosas,
desde estos nuevos tutores de IA o asesores médicos
hasta cómo controlar una computadora.
Así que sí, creo que el deseo del usuario era adecuado.
Solo que la tecnología fallaba.
Sí. Y una forma de entender esto
dentro de Stripe es cada vez que alguien
hace un trabajo manual o una serie de tareas,
ponemos un equipo de asistentes de investigación
que recopilan datos con todo lo que necesitan,
como tener todo listo para hacer cualquier tarea,
cualquier cosa que se pueda adelantar
para dejarles todo listo, lo que incentiva la productividad.
-Sí. -Ese es uno de nuestros enfoques.
Hablemos un poco sobre cómo funciona OpenAI.
¿Cómo se te ocurren cosas…? No, antes de meternos en eso…
¿Qué se viene? ¿Puedes adelantarnos algo?
Tienes GPT4, ChatGPT.
Seguramente el cinco. Es lo más probable.
Sí, seguro sea el 4.5 si me baso en tu sistema de numeración.
Quiero decir, ¿qué podemos esperar con ansias?
No pregunto por productos nuevos,
sino una generalidad… Hay mucha gente muy entusiasta…
Sí.
… de los desarrollos tecnológicos. Entusiásmalos.
La multimodalidad es algo que realmente nos entusiasma mucho.
Explícales a quienes no entiendan IA.
Sí. Queremos un sistema con el que además de interactuar vía texto
uno pueda interactuar mediante audio, imágenes, videos
y quién sabe qué más.
Obviamente, creo que una de las cosas
que más quiere la gente es más confiabilidad.
Si pudieran tener la mejor respuesta de cada 10,000
para cada consulta a GPT4, estarían siempre muy contentos.
Se necesita mucha inteligencia para eso.
No se distribuye de forma muy pareja para las consultas habituales.
Entonces sería importante mejorar ese aspecto,
lograr que el sistema sea más confiable.
Y, eventualmente, queremos un sistema que nos ayude a hacer un mejor trabajo
para generar conocimiento. Eso es un poco lo que viene.
La confiabilidad es importante.
Ala gente de la IA veo que le encanta el término "alucinar".
Y en general a las personas de la IA les gusta inventar palabras.
Dicen "inferir" y no "lo que tarda en ejecutarse",
y dicen "alucinar" en lugar de "inventar pavadas".
Sí, ese es un término raro.
A veces… Cierto, suena a…
No importa. Este es uno de los problemas más importantes
porque, por el uso que le damos,
necesitamos que las respuestas sean ciertas.
Sí.
Históricamente, siempre hubo
un área de rendimiento mixto, y el rendimiento de GPT
es cada vez más sólido.
Entonces, parece que lo están mejorando. ¿Es cierto?
Vamos camino a mejorarlo muchísimo.
Lo mejoramos todas las semanas, y algo que creo que es muy cierto
sobre las personas
es que somos bastante comprensivos si una persona comete un error,
pero somos muy intransigentes si una computadora se equivoca.
Entonces, el umbral de lo que significa resolver estos problemas
no es lo que tardarían las personas en resolverlo;
es mucho mayor.
Creo que eso nos llevará mucho tiempo, y que la vara estará muy alta.
¿GPT ya inventa mucho menos que cualquier persona que invitas a cenar?
Por supuesto, pero tenemos que ir mucho más allá.
Y dijiste que mejora semana tras semana, y me gustaría saber
cómo hacen el seguimiento operativo del rendimiento dentro de OpenAI.
¿Cuál es el…?
Sí, tenemos una serie de evaluaciones. Y cada vez que hacemos un cambio
o sacamos un nuevo modelo, lo estudiamos mucho
y vemos cómo funciona en todas estas cosas.
¿Pero es como la canasta del IPC, tienes que cambiar lo que evalúas?
-Tienen que ser cada vez más difíciles. -Sí.
Tenemos evaluaciones para todo tipo de robustez.
Sí, sí.
Hablemos sobre cómo funciona OpenAI.
Reitero: hay mucha gente aquí que siente mucha curiosidad.
Por ejemplo, ustedes hacen esa distinción de investigación versus producto.
Eso le resulta interesante a la gente
y en general cuál es tu filosofía para dirigir OpenAI.
Lo primero que quiero decir
es que la forma de trabajo cambia cada año, tal vez menos.
Todavía nos queda tanto por descubrir
sobre las tecnologías, y todos nos hacen estos grandes planes.
¿Cómo es que dicen? Todos tienen un plan hasta que chocan de frente contra algo.
-Sí, de Mike Tyson. -Sí.
Entonces chocas con algo
y entiendes que debes cambiar la estructura organizacional,
o lo que pensabas hacer con tu producto no puede hacerse,
o hay algo mucho mejor que hacer o quién sabe qué.
Entonces algo que intentamos, nuestra variante agregada
es tener una cultura muy enfocada en la búsqueda de la verdad.
Queremos que las cosas funcionen.
No nos importa si, al final, nuestras ideas no eran correctas.
Y algo que, en mi opinión, sostiene a la industria
es que muchas investigaciones descansan en el campo
por mucho tiempo, y así toda la cultura, como la investigación académica de IA
necesitaba que ciertos enfoques funcionen mejor, más de lo que necesitaba
que la tecnología funcione mejor.
Y nuestra idea es hacer lo que sea.
Seguimos a la verdad hasta donde nos lleve.
Si nuestra respuesta es que tenemos que escalar
este sistema absurdamente grande, cosa que es mucho menos satisfactorio
que descubrir un algoritmo nuevo y brillante,
pero si eso es lo que funciona, entonces eso es lo que haremos.
Y esa es una cultura que construimos desde el principio,
pero eso significa que las cosas son difíciles de predecir.
¿Dirías que podemos hablar de un ciclo en la IA?
Esto de descubrir nuevas técnicas
y dedicarles muchos recursos informáticos
y volver, descubrir otra técnica, dedicar recursos informáticos,
y entonces quizá parte de tu éxito
es no ser quisquilloso al dedicar recursos informáticos.
Se podría decir que hay un proceso cíclico,
pero eso de dedicar muchos recursos informáticos
no existía hasta hace unos años.
-¿De verdad? -Sí, es una idea muy nueva.
O era algo que se sabía de alguna forma abstracta,
pero otras personas no pensaban en agrandar ese modelo de lenguaje.
Dediquémonos a esto.
Prácticamente es poco elegante para los ingenieros…
Exacto.
… hacerlo por la fuerza.
-Exacto. -Sí.
Así que no me gusta… y lo otro…
las grandes computadoras serán importantes, eso es seguro,
pero, por ahora, solo hicimos la parte fácil.
Sí.
Y ahora volvemos a descifrar estas nuevas ideas.
Un experto en forzar cerraduras que usa barretas.
Pero tenemos lo nuevo.
Tenemos el sistema GPT que nos ayuda con cualquier cosa.
¿Y cómo creas una cultura que busca la verdad?
En esencia, creo que se trata de las personas.
Como en una empresa, todo depende de las personas
y en especial las primeras personas que contrates.
Fuimos muy diligentes con esas personas, sobre quiénes eran y qué no eran.
Había un montón de personas muy prestigiosas
que intentamos contratar y gente que contratamos
en nuestros inicios
que no encajaban con nuestra visión comercial.
Y pareciera que es muy importante para ti
que las personas no tengan un equipo en particular
en el que apoyarse cuando se trata de técnicas.
Lo importante es ser flexible.
Sí, tenemos un flujo alto de movimiento interno
entre los equipos y equipos nuevos y que se desarman,
y las personas cambian y van a trabajar a otra cosa
y creo que eso es muy importante para nuestra forma de trabajo
y también es muy diferente a como trabajan otras personas.
¿Cómo sabes si vale la pena financiar una investigación?
Porque con un producto, puedes evaluar si la gente lo usa o no.
Lo sabes en tiempo real.
Uno de los aspectos característicos de las investigaciones
es que pasas trabajando cinco años y parece un callejón sin salida,
y de pronto toma vuelo.
Sí, creo que no hay más secreto que ese.
Debes aceptar que el horizonte está mucho más lejos,
y esta es otra de esas cosas de la cultura de cómo llegar a la meta.
Necesitas personas que no dependan de la validación externa.
Todos la necesitamos un poco, no es bueno negarlo,
pero debes buscar gente que lo necesite más bien poco.
Y si vamos a tomar un enfoque
que pensamos que funcionará, pero los expertos del campo
dicen que no va a funcionar, aunque dicen versiones mucho peores,
necesitas personas que sigan trabajando
de la misma forma que si no obtienes un golpe de dopamina
por contacto frecuente con la realidad mientras intentas investigar
una idea en la que crees pero que no está probada.
Necesitas personas que estarán bien
en esos años de buscar algo en medio de la nada.
Y suena a que intentaste crear una gran vínculo con la organización,
en el que no te unes a un equipo y trabajas cinco años en ese equipo.
Intencionalmente, cambias los equipos.
Sí.
Y esta es tu tercera startup, si contamos a YC como una startup, ¿no?
Sí.
¿Y qué tiene de diferente tu liderazgo en OpenAI?
¿Intentas hacer las cosas diferentes respecto de tus otras empresas?
Liderar un grupo de investigación es muy diferente,
y ciertamente, las firmas de investigación son muy diferentes.
Siento que puedes aprender algunas cosas estándar,
como cómo lidiar con la gente.
Eso es bastante parecido.
Pero, en general, las personas buscan aplicar las lecciones
que aprendieron antes a lo que hacen ahora,
pero yo recomiendo empezar desde cero y adaptarte a lo que tienes delante de ti.
Así que creo que con OpenAI no hicimos todo diferente
a lo que nos recomendaron en YC.
Nos tomó cuatro años y medio lanzar un producto.
Seremos la startup con el uso más intensivo de capital
de la historia de Silicon Valley.
No sabíamos… Generamos tecnología sin tener idea alguna
de quién iba a ser nuestro cliente ni para qué usaría nuestro producto.
Fuera de bromas, ¿tus inversores te señalaban con el dedo
y te decían que estabas haciendo algo mal?
Sí. Y a mí no me importaba demasiado; no inviertas y ya.
Puedes venderle tus acciones a otro.
Eso suena distinto a otras startups; tú estabas más realizado.
No tenías que preocuparte tanto.
Sí. Pero hicimos algunos cambios por eso.
Suena a que tuviste un aprendizaje estructural.
Respecto de OpenAI… Reitero, en este momento,
ChatGPT está en boca de todos.
El producto funciona bien.
Chat GPT les ofrece valor real a las personas.
Me imagino que no siempre se sintió así.
Quizá tengas algunas historias divertidas…
-Sí. -O puedas contarnos cómo fue.
Tengo historias, pero les aseguro que ninguna es tan honesta
como la historia de lo malos que son los primeros días.
Me avergüenza en retrospectiva.
Escucho risas nerviosas.
Pero el principio de OpenAI fue muy duro.
Las cosas no funcionaban.
Éramos un grupo de personas muy diferentes.
Todas las personas serias del campo se rían de nosotros.
Estaba este otro señor famoso
que dirige otro laboratorio de IA al que ya no le va tan bien como a OpenAI
que cada vez que un medio escribía algo bueno de OpenAI,
iba a decirles: "No sé por qué escriben esto.
Esta gente no es buena".
¿Se pelearon con Elon Musk?
Nos peleamos con Elon Musk.
Pero lo peor es que no veíamos un progreso técnico en nuestro trabajo.
Tuvimos pequeños avances.
Algunos proyectos salieron bien.
Incluso creamos Doda, que fue genial, y nos permitió tomar dinero de Microsoft,
que nos llevó a crear la serie GPT.
Pero no… Realmente no teníamos idea cómo crearíamos AGI,
y DeepMind nos sacaba muchísima ventaja en ese momento,
y mucha gente nos preguntaba por qué lo hacíamos,
si DeepMind era insuperable.
Nadie había descifrado cómo hacer modelos de lenguaje.
Ciertamente, a nadie se le había ocurrido ponerle una API o crear ChatGPT.
Así que sí, fue feo.
Fue muy duro.
Solo queríamos seguir adelante,
pero constantemente teníamos problemas para conseguir dinero,
o recursos informáticos o personas, pero sigues adelante,
y al final las cosas salen.
Cuando dices que solo sigues adelante, y si pienso en…
Vuelvo. Creo que todas las empresas que alcanzan cierta escala
pasan por un período oscuro.
Y si pienso en los tiempos oscuros de Stripe,
fue al principio, justo después de salir al mercado.
Se nos acabó la endorfina
y varias de las personas más antiguas se fueron todas juntas.
Fue agotador porque pierdes la confianza y piensas en qué te hace seguir adelante.
Y realmente ayuda tener una idea de lo que te entusiasma,
pero en nuestro caso,
también nos impulsa dar servicio a los clientes.
-Sí. -Y entonces piensas:
"Tenemos que seguir porque tenemos pedidos para las API,
y tenemos que cumplir con estos clientes".
-Sí -Y no tenemos realmente otra opción.
Pareciera que hacían investigaciones de las bases.
No tenían el impulso de los clientes para motivarlos.
Entonces, ¿no pensabas en cerrar todo y rendirte?
Mucha gente decía que…
En Silicon Valley, fueron buenos los laboratorios de investigación,
hasta que dejaron de serlo.
Entonces no teníamos… Ahora hay buenos consejos canónicos
sobre qué hacer según el tipo de producto de la startup, y funcionan.
Y por eso es que YC está tan a favor de esto.
Una vez que tienes clientes que requieren tus servicios,
sientes que ellos te impulsan.
Pero algo que tuvimos que redescubrir
sobre cómo dirigir un laboratorio de investigación
fue cómo mantener
el impulso interno cuando no hay clientes o no tienes contacto con la realidad
como para saber si estás haciendo lo correcto.
Y es muy difícil.
Tener buenos colegas es importante.
Buscábamos la forma de establecer suficientes puntos de contacto externo
como para que…
… para que nosotros, y me incluyo, no enloqueciéramos,
y fingieran ser clientes que nos enviaban comentarios.
Pero tuvimos que redescubrir cómo hacer muchas cosas.
Nos contaste sobre la competencia intensa
y sobre otras empresas de la industria, como DeepMind.
Algo que te escuché decir
es que el espacio de la IA tiene un espíritu muy competitivo
y las personas se esfuerzan para superar a su competencia
y se compite por muchos frentes, como en un deporte o algo así.
Y un poco me recuerda a los primeros días
de las computadoras, con Microsoft contra Apple.
Me refiero a que esa fue una batalla muy competitiva,
pero, en este espacio, hay muchas personas.
Todos son grandes y, de alguna forma, más relajados.
¿Tiene más que ver con la velocidad de cambio?
En realidad, creo que de alguna forma el campo de las IA
es muy competitivo, pero por otro lado es el menos competitivo
porque creo que todos los que trabajamos en los límites de la IA
entendemos lo que está en juego y queremos que salga bien.
Y entonces, aunque todos queremos ir más rápido,
y todos trabajamos aislados, creo que entendemos profundamente
la necesidad de colaborar y de hacer las cosas bien.
Eso es muy distinto a cualquier otro espacio que conozca.
¿Cómo son esas colaboraciones?
Generalmente los líderes de los laboratorios hablan entre sí.
Pero pronto serán conversaciones entre Gobiernos.
¿Qué pasará con los Gobiernos?
Se habla mucho sobre las regulaciones de las IA. ¿Cómo debería…?
Te diré qué me gustaría que pase. No sé qué harán.
Lo que quiero es algo…
Creo que los sistemas informáticos
que superan ciertos umbrales a medida que progresamos los algoritmos
son más poderosos para hacer el bien y más peligrosos para hacer el mal
que ninguna otra tecnología creada a la fecha.
Y lo que me gustaría es que exista algo como el IAEA,
el Organismo Internacional de Energía Atómica,
que se encargue de la IA.
Entonces, si vas a crear un sistema de entrenamiento de IA gigante,
y si vas a entrenar modelos que superan cierta capacidad,
debería haber una entidad regulatoria global
que diga: "Tienes que pasar esta prueba para implementar esto".
Estos son los estándares de auditorías.
Pero ahora, que cerramos plantas nucleares en Europa
y volvemos a las centrales térmicas de carbón,
y parece que volvemos atrás
desde el punto de vista climático,
¿realmente crees que deberíamos buscar un modelo regulatorio como el nuclear?
No estalla una bomba en el contexto de una guerra desde 1945
y creo que en 1945, la gente no hubiese creído en este dato.
No fue un proceso perfecto. El poder cometió errores.
No tengo la certeza de que haya sido culpa del IAEA.
La NRC, en los EE. UU.,
nunca aprobó una planta que luego pueda construirse
en sus 45 años de existencia, cosa que es un bochorno.
Pero no explotó ninguna bomba.
Y crees que eso es gracias, al menos en parte…
Al menos en parte…
… del IAEA.
Este tema me recuerda… Olvidé que la introducción de Sam,
que como saben, hizo muchas cosas impresionantes,
y mientras hacía todo esto, en su tiempo libre,
hizo cosas como volverse el principal patrocinador de Helion,
que es la startup líder en fusión nuclear.
-¿Nos debería emocionar… -Sí, deberían emocionarse.
… la perspectiva de la fusión?
La fusión va a funcionar. Lo que todavía no tengo claro…
-¿Funcionará? -Si, funcionará.
Lo escucharon aquí.
Pero.…
Lo siento. Ya lo publiqué en Twitter.
Ahora queda ver es cuán barato es generar energía con este sistema
y cuán rápido podemos entregarla al mundo.
Esos son dos desafíos enormes.
Quizá no tanto como lograr que el sistema funcione, pero parecido.
Entonces, es muy probable que logremos que la fusión funcione
pero que sea más cara que generar y almacenar energía solar.
Eso sería triste.
Y es muy probable que la fusión funcione y sea asequible,
pero que no podamos generar los miles de gigavatios
de capacidad generativa que se necesitan en la Tierra.
Si ambas cosas pasan, si los costos caen
en razón de 10 o 100, la demanda se dispara y sería muy difícil
generar suficiente energía.
Pero supongo que lo resolveremos.
Y posiblemente tengamos un mundo
en el que además de que se desplomen los costos de inteligencia,
los costos de la energía también se desplomen.
Y si esas cosas pasan simultáneamente,
y diría que son los dos factores más importantes de la economía,
este sería otro mundo.
¿Y esas son cosas que están más vinculadas de lo que imaginamos? La electricidad…
Si lo pensamos…
… es fundamental.
Si lo pensamos así, sí.
Si quieres crear el mayor sistema que puedas hacer,
el más capaz y más inteligente, necesitas una cantidad ingente de energía.
Y con una IA que te ayude a trabajar más rápido
y mejor en ciencia de materiales, quizá aceleres un poco la fusión.
Y ahora, si miras atrás al árbol de texto y piensas en cosas como Helion,
hay muchas preguntas sobre qué depende de qué.
Si los romanos podrían haber tenido una revolución industrial,
o si necesitaban otra tecnología.
¿Podríamos haber tenido lo que Helion está haciendo en los 60?
-No. -Ok.
Insisto, siempre es curioso cómo pasan estas cosas,
pero la revolución de los semiconductores
también significa que ahora podemos hacer los cambios necesarios en Helion.
Hace 10 o 15 años, eso hubiera sido absolutamente imposible.
El progreso que hicimos con la ciencia de los materiales
para mucha partes de las máquinas, el modelado por computadoras
que podemos hacer, entender cómo funcionará el plasma,
nada de todo eso hubiese sido posible entonces.
Es producto de años de estudiar materiales…
-y modelado por computadoras. -En muchos…
Sí, es el resultado de avances importantes
en cinco áreas que se multiplicaron juntas.
Es decir que podemos hacer cosas
que la última vez que se intentaron fueron imposibles.
Ok. Disculpa. Nos distraje.
Volviendo a las regulaciones de las IA,
crees que ponerle un tope es una forma sensata y pragmática…
No les pondría un tope.
Quizá sea necesario en algún punto en el futuro,
pero a largo plazo, ese no es el camino.
Pero pasados ciertos umbrales que cada vez serán más altos,
hay más exigencias regulatorias.
Así que si vas a generar un sistema
que posiblemente tenga capacidades muy poderosas,
deberías tener un régimen regulatorio
en comparación con entrenar un modelo en una laptop.
¿Crees que volveremos a las regulaciones que son proteccionistas en esencia?
El terreno de los humanos protegiendo a los humanos,
como los abogados, que los necesitas para hacer ciertas cosas.
¿Por qué? Porque hacemos las reglas. Somos abogados.
Antes era un tema que me preocupaba.
Quizá aún me preocupa.
Hay muchos ejemplos de errores que cometimos
por proteger algunos trabajos, pero no ganas con esa estrategia.
Creo que el tenor de la conversación está cambiando
a "esto de la AGI es diferente a cualquier otra cosa
que hayamos enfrentado; centrémonos en eso".
Como verás, hay unas 3000 personas en la sala
que trabajan en todas las industrias, y seguro algunas tengan startups de IA.
Y si pusieras una solicitud para startups de IA,
y OpenAI les diera la tecnología
con sus productos API, a muchas o a todas esas startup de IA,
¿qué te gustaría que desarrollen?
¿Cuáles serían los requisitos para las startup?
Ya hablamos de esto:
cualquier cosa en la dirección de generar un nuevo modelo de interfaz,
eso sigue funcionando,
desde esta interfaz de chatbot, hasta algo que antes era difícil de hacer,
hasta una especie de copiloto para cada flujo de trabajo,
me parece una buena área para trabajar.
Los cambios en la educación son maravillosos.
Los tutores de IA me sorprenden para bien, y sospecho que pueden mejorar mucho más.
La mejor parte de esto
es que siempre subestimamos la energía creativa
cuando todos la enfocamos en una sola cosa.
Sí. En Stripe trabajamos con muchísimas empresas de SaaS vertical
que proveen software para clientes verticales muy específicos,
y funcionan como nichos.
O sea, son plataformas de software muy populares
para gestionar grupos de boys scout.
Hay muchos grupos de boys Scout por ahí.
-Sí. -Y se usa una plataforma de software
para administrarlos.
Pero vemos esto en todas las industrias,
y pienso que quizá las plataformas de software
sean el vehículo que lleve a las mejoras de productividad de las IA
a la economía de una forma más amplia,
porque la mayoría de las empresas no son de tecnología,
y las SaaS harán llegar esos avances.
Posiblemente tengas razón,
pero no tengo una convicción clara sobre esto.
Quizá la mayor ventaja llegue después de más vueltas de rosca
y podamos decir, "IA, cura el cáncer",
y busque información y te dé la respuesta.
La gente lo entiende así.
Eso sería divertido. Sería muy emocionante.
Sería emocionante. Cuando hablas de educación,
como el efecto sigma Bloom 2 de enseñar a niños
con técnicas de aprendizaje de perfeccionamiento
en las que esperas a que el niño realmente entienda un tema
antes de pasar a otro.
Lo llaman efecto sigma Bloom 2
porque genera dos sigmas de resultados superiores
respecto de la base, que es lo más emocionante.
Creo que por eso los tutores de IA sorprenden tanto,
porque hacen eso muy bien de forma personalizada.
Sí. Hay dos sigmas. Son muchos…
Es mucho.
… sigmas.
Son muchos sigmas.
Para las empresas presentes que no son de IA,
¿tienes algún consejo, ahora que intentan incorporar la IA
en sus negocios?
Sí. La productividad interna.
Vemos una gran divergencia entre las personas en las empresas…
Los empleados de empresas y las empresas que adoptan las herramientas IA
y las que no.
Tanto si tu empresa tiene algo que ver con la IA como si no,
debes entender cómo tener un efecto sustancial
en tu productividad por unidad de tiempo
y creo que es muy peligroso no saber cómo hacerlo.
Cuando hablas de AGI a tres o cinco años, ¿en qué piensas?
Honestamente, las reglas del juego cambian tan rápido
que creo que, en este momento, deberíamos acordar
de forma precisa nuestras definiciones, y después podría hacer estimaciones.
¿Cómo defines al trabajo?
Creo que también es movimiento, ahora que estamos más cerca.
Diría que AGI definitivamente es un sistema
que puede incrementar drásticamente el ritmo de progreso científico.
Y con esto no quiero decir que tendremos un sistema
que hace descubrimientos científicos solo.
No creo que eso vaya a pasar,
sino que funcionará en colaboración con nosotros
y se volverá parte de la sociedad con estas funciones,
y nuestro ritmo general de progreso científico
será muy distinto, supongo que para finales de esta década.
Sí, y creo que si esa es tu opinión,
es algo…
… que pasará muy pronto.
Sí, pero reitero: no será un sistema totalmente autónomo.
-Algunas personas no lo contarán. -Sí, sí, sí.
Esto es un poco la definición de cambios.
Quizá muchos no sepan esto.
Fuiste, con Paul Graham, el primer inversor ángel de Stripe.
-Sí. -¿Por qué invertiste en Stripe?
Pensé, y sigo pensando,
además de que es uno de los mayores mercados,
que si puedes reducir la fricción de las transacciones económicas,
y, en parte, por eso Internet es tan emocionante,
aunque sea solo una parte,
eso permitiría un crecimiento muy grande en la economía
y que pasen cosas mejores, más rápido, más asequibles,
más accesibles, todo eso.
Y eso creció incluso más.
Digamos que Stripe superó las expectativas de todos,
pero esta fe de base que sentí entonces, también la siento ahora.
También pensé que Patrick y tú eran geniales.
Y eso es todo lo que busco en una startup,
una buena idea comercial que quiera apoyar,
buenos fundadores… Algo que sea legítimo a largo plazo.
Fue hace tanto tiempo… De hecho, firmé un cheque físico,
quizá fue uno de los últimos que firmé en mi vida
Pero cuando dices…
Es icónico para Stripe, si lo piensas.
Pero tiene sentido.
Tiene sentido. Fue uno de los últimos.
-Podemos digitalizarlo. -Cuando la gente dice:
"Le hice un cheque a esta startup"… Bueno, yo firme uno para Stripe.
Sí. Tenemos nuestra nueva RFA.
Te lo podemos digitalizar.
Pero, claramente, ahora ustedes monetizan ChatGPT con Stripe.
¿Alguna opinión del producto?
Estamos muy felices. Y te diré algo que supongo
que el equipo escuchó hasta el cansancio.
Stripe tiene un excelente servicio de atención al cliente y documentación.
Esa experiencia es mucho mejor que en cualquier otra startup.
Y en OpenAI… Mejoraremos en esto.
Me disculpo. Claramente era lo que quedaba.
Pero es inspirador y lo apreciamos mucho.
Cuando hablas de documentación, algo que me entusiasma mucho,
y es algo chiquito, si lo comparamos con GPT4,
pero, bueno, es la documentación técnica.
Stripe produjo mucha documentación muy técnica y profunda,
pero el caso de uso de cada uno es algo diferente,
como "estoy generando una plataforma en los Países Bajos,
para aceptar pagos de puntos de venta
con el lector S700, que tiene la mejor batería
de todos los lectores que envié nunca,
y quiero saber cuál es mi plan de implementación".
-Sí. -Y GPT4 es excelente en esos casos.
-Eso suena muy parecido al futuro. -Sí.
En el que le harás cualquier pregunta a GPT4 o a algún sistema similar
y te dará una respuesta personalizada.
Tengo una pregunta sobre el producto.
¿Consultarás al generador de integración de Stripe
y este te dará una respuesta personalizada?
¿O lo estamos sobredimensionando, y le preguntaremos directamente
a GPT4 "cómo genero mi integración con Stripe"?
Todavía estamos descifrando la respuesta a esa pregunta.
¿La gente quiere usar un chatbot centralizado
para todo el flujo de trabajo?
¿O quiere una interfaz de chat en todos lados?
Así que estamos probando versiones con todo junto en plugin,
versiones en la que insertamos muchas experiencias similares al chat.
Y creo que nadie lo tiene muy claro.
Y ustedes deberían presentar su producto de API
porque algo que preocupa a la gente
es el uso de datos, ya que uno quiere usar los datos
pero no volver a alimentar los modelos y todo eso.
Y ustedes solucionaron el problema con su producto de API.
-Sí. Sí. -Pero la gente no lo sabe.
Queremos aclarar este malentendido.
Nunca entrenamos en función de los datos enviados a la API.
Pueden usarla con confianza como un negocio.
Eso nunca entrenará al sistema.
Y es es muy importante para nosotros,
porque entendemos cuán sensible es la información.
No la retenemos a largo plazo ni la usamos.
Son sus datos. Lo entendemos.
Hay otras formas de mejorar los modelos.
Seguiremos bajando mucho los precios con el tiempo.
Seguiremos mejorando los modelos.
Tenemos esta visión en las que nuestras API
son muy fáciles de usar y estables a largo plazo,
y a medida que el modelo se vuelva más inteligente,
mejorará todo en Internet, la industria de la tecnología,
con más inteligencia.
Y esa es nuestra… Queremos asombrar a las personas
con el nivel de inteligencia que obtienen con poco dinero.
Creo que podremos mantenerlo mucho tiempo.
Cuando hablas de datos, creo que algo que sorprende a la gente
es cuán pequeños son los modelos.
No sé si tienes algo que decir de lo pequeños que son algunos.
¿Veremos muchos modelos en dispositivos
o en empresas o en dispositivos personales?
Falta mucho para que se pueda ejecutar un modelo como el GPT4 en un iPhone,
pero la tecnología avanza. Llegará ese día.
-Quizá para casos de uso especializados. -Sí.
Pero no para todos.
Ok. Última pregunta porque se nos acaba el tiempo.
Hablas mucho con las startups. Aconsejas a las startups.
Te escuchan empresas grandes y pequeñas, no solo startups,
pero hay algunas en la sala.
En vistas al 2023, ya hablamos mucho sobre IA en específico,
pero si analizas la macroeconomía,
el mercado laboral, el regreso a las oficinas,
lo que hablamos antes y el panorama general,
¿qué les recomiendas a las startups?
¿Qué errores crees que cometeremos y nos puedes corregir?
¿Qué consejo quieres que nos llevemos?
Creo que una de las peores ideas
de la industria de la tecnología en mucho tiempo
es que se puede trabajar siempre remoto y las startups no necesitan verse.
Y que no perderían creatividad.
Y diría que el experimento terminó.
La tecnología todavía no alcanza para que la gente trabaje 100% remoto.
Mucho menos en startups.
Creo fuertemente que las startups
necesitan mucho compartir tiempo en persona,
y cuánto más frágiles, imprecisas e inciertas sean sus ideas,
más necesitan compartir tiempo en persona.
Eso es algo que todavía no pudimos trasladar
a Slack o a Zoom, ni a ninguno de esos.
Hablé con muchas startups nuevas
que trabajaron de forma remota este tiempo y decidieron no volver
versus las que empezaron en persona o volvieron a trabajar presencial,
y son diferentes. La diferencia es abismal.
Creo que eso es importante.
Lo de la macroeconomía, no sé realmente.
Eres bueno con las predicciones de macroeconomía.
Ahora solo pienso en IA. Antes me interesaban muchas cosas.
Antes tenía muchas ideas, y ahora solo tengo una.
Es de esperar que la economía se recupere.
Eso fue igual de específico que muchos pronósticos serios,
o que muchos pronósticos macroeconómicos, pero el tuyo fue mucho más conciso.
Los otros usan muchas palabras para transmitir la misma idea.
-Sí. -Ok.
Volver a la oficina y la economía se recuperará
en algún momento.
No estaba planificado, pero podrán hacerle preguntas.
Una sola pregunta y cerramos.
-Es algo nuevo. -Claro.
Se realizó una investigación
sobre cómo las capacidades emergentes son más originales
para medir el progreso que las propiedades
del modelo lingüístico.
La pregunta es: hay un informe que dice
que las propiedades emergentes son más algo y cómo se mide el progreso
versus la propiedad inherente de los modelos de lenguaje.
No leí ese informe.
No estoy de acuerdo.
Pero supongo que depende de cómo defines las propiedades emergentes.
La cantidad de expertos que opinan
sobre por qué esto es predicción estadística
no es inteligencia.
Todo esto es inútil,
versus la experiencia de quienes usan el modelo.
Los expertos se equivocan en aspectos importantes.
Y pueden ignorar la histeria que publican en Twitter.
¿Hablas de alguien en específico?
Hablo de muchos en particular.
Pero de la misma forma en que pueden decir esto no es por algo emergente,
es un error de concepto,
si hace algo nuevo y útil, es comportamiento emergente
en el sentido que su rentabilidad es la figura de mérito,
pero además creo que podemos prever
que en un futuro, uno o dos años, existirán comportamientos
que puedo garantizar que ahora no existen,
y que yo y muchas personas llamaremos "emergente",
pero lo importante es el servicio que eso nos brinde.
-Ok. Sam, muchas gracias. -Gracias.
Gracias por recibirme.