jakiro
Autor: Ciudad de Sky · Lord, Fuente: Web3 Ciudad de Sky
anfitrión:
Conocí a Sam Altman, nuestro próximo invitado, hace unos 20 años, cuando estaba trabajando en una aplicación móvil local llamada Loop.Todos tenemos el apoyo de Sequoia Capital, y de hecho, todos somos los primeros Boy Scouts de Sequoia Capital.
Invirtió en Stripe, una empresa de FinTech de manera desconocida, e invertí en Uber.En ese pequeño experimento …
Sam:
¿Has invertido en Uber?Nunca antes había oído hablar de eso.
Sí, creo que sí.
Deberías escribir un libro, Jacob.
El pequeño fondo experimental que Sam y yo participamos como Boy Scouts fue el fondo con el mayor rendimiento del capital en Sequoia.Escuché que millones de dólares se han convertido en más de 200 millones de dólares.También trabajó para Y Combinator durante un tiempo y se desempeñó como presidente de 2014 a 2019.En 2016, cofundó Openai con otros, con el objetivo de garantizar que la inteligencia artificial universal beneficie a toda la humanidad.En 2019, dejó YC y se unió a Operai a tiempo completo como CEO.
El 30 de noviembre de 2022, las cosas se volvieron muy interesantes.Ese día fue el día en que Operai lanzó ChatGPT.En enero de 2023, Microsoft invirtió $ 10 mil millones.En noviembre de 2023, Sam fue despedido por Operai durante un loco período de cinco días.Todos tienen que trabajar en Microsoft.Un montón de emojis en forma de corazón se volvieron virales en X y Twitter, y la gente comenzó a especular que el equipo había llegado a la IA Universal.Se acerca el fin del mundo.De repente, unos días después, regresó al puesto de CEO de Operai.
Según los informes, en febrero de 2023, Sam busca recaudar $ 7 billones para un proyecto de chip de IA.Anteriormente se informó que Sam estaba tratando de recaudar $ 1 mil millones de Masayoshi SAN para crear un asesino de iPhone con el cofundador de iPhone Johnny Ive.
Al mismo tiempo, ChatGPT está mejorando cada vez más y convertirse en un nombre familiar.Ha tenido un gran impacto en la forma en que trabajamos y cómo trabajamos.Según los informes, es el producto más rápido de la historia en llegar a 100 millones de usuarios en solo dos meses.
Mira el loco crecimiento de los ingresos de Openai.Según los informes, su ARR alcanzó los $ 2 mil millones el año pasado.Bienvenido al podcast completo,
He observado que toda la industria espera nerviosamente el lanzamiento del GPT-5.Hasta donde entiendo, se puede lanzar en algún momento de este verano, pero esta ventana de tiempo es bastante amplia.¿Puedes definirlo por nosotros?
Sam:
Pasaremos algún tiempo lanzando este nuevo modelo importante.Creo que será genial cuando hagamos esto.Pensaremos cuidadosamente sobre cómo proceder.Podría publicarse de una manera diferente a la que hemos publicado el modelo anterior.Además, ni siquiera estoy seguro de si lo llamaremos GPT-5.
Me gustaría decir que desde que lanzamos el GPT-4, especialmente en los últimos meses, mucha gente ha notado su excelente rendimiento.Creo que esto revela mejor la esencia del mundo.Creo que esta es una mejor dirección tecnológica y más fácil de adaptar para la sociedad.
anfitrión:
Entonces, ¿esto significa que no tendremos ciclos de entrenamiento largos, pero seguiremos reillantes o submodelos de entrenamiento, Sam?Tal vez pueda compartir con nosotros qué cambios pueden ocurrir en la arquitectura de grandes modelos en el futuro.
Sam:
Un escenario que puedes imaginar es que siempre estamos entrenando un modelo.Este parece ser un enfoque razonable para mí.
Estamos discutiendo diferentes formas de publicar esta vez.¿Está considerando publicar a los usuarios pagados primero o frenar el lanzamiento para mantener nervioso al equipo rojo porque el riesgo es demasiado alto ahora?De hecho, tiene tantos usuarios pagados y todos siguen cada paso de su vida.Tienes que pensar con más cuidado ahora, ¿verdad?
Sí, GPT-4 todavía solo está abierto a usuarios pagados en este momento, pero una cosa que realmente queremos hacer es descubrir cómo hacer que los usuarios gratuitos estén más avanzados a disposición de la tecnología.Creo que esta es una parte muy importante de nuestra misión.Nuestro objetivo es construir herramientas de inteligencia artificial y hacerlas ampliamente disponibles, ya sean gratuitas o menos costosas, sea lo que sea, para que las personas puedan usarlas para crear el futuro, en lugar de dejar que el AGI mágico en el cielo cree el futuro y viertalo. sobre nosotros.Este parece ser un camino mejor y más inspirador.Creo firmemente que las cosas se están moviendo en esta dirección.Así que lo siento muchoNo hemos descubierto cómo hacer que los usuarios gratuitos usen tecnología de nivel GPT-4.Esto es lo que realmente queremos hacer.Debo admitir que es muy costoso.
Sam, creo que dos grandes factores que las personas suelen discutir son costos potenciales y latencia, lo que limita un poco la tasa de aplicaciones asesinas.Entonces creo que el segundo factor es la capacidad a largo plazo que las personas construyen en el mundo de código abierto y el mundo de código cerrado.Creo que la parte fanática de este campo es el entusiasmo de su comunidad de código abierto.Un ejemplo increíble es que hicimos una demostración muy loca para Devon, que fue hace cinco o seis semanas y funcionó muy bien.Luego, algunos jóvenes publicaron el proyecto bajo las licencias abiertas del MIT, como OpenDevon.Se desempeñó muy bien y fue casi comparable a otros proyectos de código cerrado.Entonces, tal vez podamos comenzar con esta pregunta, es decir, ¿cuáles son las decisiones comerciales que mantienen estos modelos de código cerrado?¿Qué crees que se desarrollará en los próximos años?
Para la primera parte de su pregunta, velocidad y costo, estos son muy importantes para nosotros.No quiero dar una línea de tiempo sobre cuándo podemos reducir significativamente la demora, porque la investigación es difícil, pero creo que podemos hacerlo.Esperamos reducir significativamente la latencia y reducir significativamente los costos.Creo que esto sucederá.Todavía estamos en las primeras etapas del desarrollo científico y no podemos entender cómo funciona.Además, tenemos todos los vientos de cola de ingeniería.Así que no sé cuándo obtendremos inteligencia que sea lo suficientemente barato como para ser medibles, y tan rápido que nosotros y todos los demás sentimos que es instantáneo.Pero creo que podemos alcanzar un nivel bastante alto de inteligencia.Esto es importante para nosotros, y es importante para el usuario, y desbloqueará muchas cosas.
Con respecto al código abierto y la fuente cerrada, creo que ambos tienen sus ventajas.Creo que hemos abierto algunos proyectos, y abriremos más proyectos en el futuro.Pero en realidad, nuestra misión es avanzar hacia la inteligencia artificial y encontrar formas de distribuir ampliamente sus beneficios.Tenemos una estrategia que parece resonar con muchas personas.Obviamente, no es para todos.Y es un gran ecosistema.También habrá modelos de código abierto y personas construidas de esta manera.
Un área que personalmente tengo un interés particular en el código abierto es que quiero un buen modelo de código abierto que pueda ejecutarse en mi teléfono.Creo que el mundo no tiene tecnología lo suficientemente buena para desarrollar una buena versión.Pero esto parece ser algo muy importante en algún momento.
¿Harías esto?¿Lo publicarás?
No sé si lo haremos, o si alguien lo hará.
¿Qué tal Llama 3?
Llama 3 corre en tu teléfono?
Creo que puede haber 7 mil millones de versiones de parámetros (teléfono móvil).
Sí.No sé si eso es adecuado para un teléfono, pero …
Eso debería ser adecuado para un teléfono celular.
Pero no sé, no estoy seguro de si eso se ajusta, aún no lo he jugado.No sé si es suficiente para lograr lo que estoy considerando aquí.
Entonces, cuando se lanzó la Llama 3, creo que la conclusión más grande para mucha gente fue, wow, se han puesto al día con el GPT-4.No creo que sea igual en todos los aspectos, pero en general, está muy, muy cerca.Creo que el problema es que lanzaste 4 no hace mucho tiempo, estás desarrollando 5 o haciendo más actualizaciones a 4.Quiero escuchar su punto de vista sobre cómo mantenerse a la vanguardia en un entorno de código abierto, ¿qué piensas?Esta suele ser una tarea muy desafiante, ¿qué piensas?
Nuestro objetivo no es crear el conjunto más inteligente de pesas que podamos hacer, sino crear una capa útil de inteligencia para que las personas lo usen.El modelo es solo una parte de él.Creo que seguiremos por delante de la línea del frente a este respecto, y espero que podamos estar muy por delante del resto del mundo a este respecto.Pero hay mucho otro trabajo en todo el sistema, no solo los pesos del modelo.Debemos construir un valor duradero de manera tradicional, como cualquier otro negocio.Tenemos que encontrar un gran producto y una razón para seguirlo y entregarlo a un buen precio.
Cuando comienza esta organización, lo que dice es o parte de la discusión es que es demasiado importante para cualquier empresa, por lo que debe estar abierto.Luego se vuelve hacia, nadie puede ver que es demasiado peligroso, necesitamos bloquearlo porque tiene algunas preocupaciones al respecto.Quiero saber, ¿es esto cierto?Porque el lado cínico diría que este es un movimiento capitalista.Luego, tenía curiosidad sobre cuál era la decisión de comenzar con la apertura.El mundo necesita ver esto.El cierre es realmente importante.Solo nosotros podemos verlo.Entonces, ¿cómo llegaste a esta conclusión?
Parte de la razón por la que lanzamos ChatGPT es porque queremos que todo el mundo vea esto.Hemos estado tratando de decirle a la gente que la IA es realmente importante.Si vuelves a octubre de 2022, entonces no había tanta gente que pensara que AI sería tan importante, o realmente sucedió.Una gran parte de lo que estamos tratando de hacer es poner la tecnología en manos de las personas.Ahora, nuevamente, hay diferentes formas de hacer esto.Creo que de hecho hay un papel importante, es decir, por ejemplo, esta es la forma de implementarlo.
Pero, de hecho, tenemos tantas personas que usan la versión gratuita de ChatGPT, no publicamos anuncios y no intentaremos ganar dinero con ella.Simplemente lo implementamos porque queríamos que las personas tuvieran estas herramientas.Creo que hace mucho trabajo, proporciona mucho valor, enseña a las personas cómo pescar y también hace que el mundo realmente piense en lo que está sucediendo aquí.Ahora, todavía no hemos encontrado todas las respuestas.Somos como todos los demás, a tientas hacia adelante.Creo que cambiamos nuestra estrategia muchas veces mientras aprendemos cosas nuevas.
Cuando comenzamos Openai, realmente no sabíamos cómo irían las cosas, haríamos modelos de idiomas, haríamos productos.Recuerdo claramente el primer día, y pensamos, ok, ahora estamos todos aquí.Es difícil preparar todo esto.Pero, ¿qué pasará ahora?Tal vez deberíamos escribir algunos documentos.Tal vez deberíamos pararnos alrededor de la pizarra.Hemos estado trabajando duro para descubrir qué sigue, qué sigue y qué sigue.Creo que continuaremos haciendo eso.
¿Puedo confirmarlo nuevamente para asegurarme de no escucharlo mal?Entiendo su punto de vista de que, ya sea de código abierto o de código cerrado, todos estos modelos, sin importar las decisiones comerciales que tome, mejorará gradualmente su precisión.No todas las empresas tienen suficiente capital, pero suponga que hay cuatro a cinco, como Meta, Google, Microsoft, etc., o puede haber una startup.Todas estas compañías operan en una red abierta.Luego, pronto, la precisión o valor de estos modelos puede transferirse a estas fuentes de datos de capacitación patentadas que puede o no obtener, u otros pueden obtener y no puede obtener.
¿Crees que esta es la tendencia de las cosas?Abrir la red hace que todos alcancen un cierto umbral, y luego se convierte en una carrera armamentista para los datos?
No me parece.Creo firmemente que esto no se convertirá en una carrera armamentista para los datos, porque cuando el modelo se vuelve lo suficientemente inteligente, no debería tratarse de obtener más datos, al menos no de los datos utilizados para el entrenamiento.Los datos pueden ser importantes porque tiene su valor.Una de las cosas más importantes que he aprendido de todo esto es que es difícil hacer predicciones seguras sobre lo que sucederá en los próximos años, por lo que no quiero probarlo ahora.Lo que quiero decir es que espero que muchos modelos muy capaces aparezcan en el mundo.Siento que solo nos topamos con un nuevo hecho natural o científico, o algo que podría llamarlo un hecho que podríamos crear.No creo que sea literal, pero es como un punto espiritual.La inteligencia es solo esta propiedad repentina de la materia, que es como reglas físicas o algo así.Entonces la gente lo resolverá.Pero habrá todos estos enfoques diferentes para el diseño del sistema.La gente tomará diferentes decisiones y encontrará nuevas ideas.Estoy seguro de que, como cualquier otra industria, espero que haya múltiples enfoques, y diferentes personas como diferentes enfoques.A algunas personas les gustan los iPhones, a algunas personas les gustan los teléfonos Android.Creo que esto será efectivo.
Volvamos a la primera parte y discutamos solo el costo y la velocidad.Todos ustedes, el rendimiento de Nvidia es un poco limitado, y creo que usted y la mayoría de ustedes han anunciado cuánta capacidad puede obtener porque esa es la capacidad máxima que pueden producir.¿Qué debe suceder en el sustrato para reducir realmente los costos informáticos, acelerar la computación y obtener más energía?¿Cómo ayuda a la industria a resolver estos problemas?
Ciertamente haremos un gran progreso en los algoritmos.No quiero subestimar esto.Estoy muy interesado en las papas fritas y la energía.Pero si podemos duplicar la eficiencia del modelo de la misma calidad, sería equivalente a duplicar nuestra potencia informática.Creo que hay mucho trabajo por hacer allí.Espero que realmente podamos ver estos resultados.Además de eso, toda la cadena de suministro es muy compleja.La capacidad de producción de una fábrica lógica.¿Cuántos HBMS puede producir el mundo?Puede obtener rápidamente una licencia, verter concreto, construir un centro de datos y luego organizar que las personas conecten todas las líneas.Finalmente, hay energía, que es un gran cuello de botella.Pero creo que el mundo marcará la diferencia cuando tenga un gran valor para la humanidad.Trabajaremos para que esto suceda más rápido.La posibilidad existe, y no puedo dar una probabilidad específica, pero creo que, como dijiste, este es un gran avance fundamental.Ya tenemos cálculos más eficientes, sin embargo, no me gusta confiar demasiado en ello y no quiero pasar demasiado tiempo pensando en ello.
En el lado del dispositivo, mencionó modelos que se pueden instalar en su teléfono.Obviamente, ya sea LLM o SLM, etc., creo que está considerando este problema.¿Pero cambiará el dispositivo en sí?¿Necesita ser tan caro como un iPhone?
Estoy muy interesado en esto.Me gustan las nuevas formas de informática, y cada avance tecnológico importante parece traer algo nuevo.El nivel de excelencia del teléfono es increíble, así que creo que la barrera aquí es muy alta.Personalmente, creo que el iPhone es el mejor producto tecnológico en la historia humana, y es realmente un gran producto.
Entonces, ¿qué será después?
No tengo ni idea.Sería una gran cosa ir más allá, pero creo que la barrera es muy alta.
He estado trabajando con Johnny Ivy y hemos estado hablando de varias ideas, pero no estoy seguro de si el nuevo dispositivo tiene que ser más complejo o en realidad solo necesita ser más barato y más simple.Casi todos están dispuestos a pagar sus teléfonos, por lo que si puedes hacer un dispositivo más barato, creo que las barreras para llevar un segundo equipo o usar un segundo equipo son bastante altas.Entonces, creo, teniendo en cuenta que todos estamos dispuestos a pagar por nuestros teléfonos, o la mayoría de nosotros estamos dispuestos, no creo que sea la respuesta al problema.
Entonces, ¿cuáles son las diferencias en la respuesta?
¿Hay un chip especializado que pueda ejecutarse en un teléfono y que pueda conducir bien un modelo de IA del tamaño de un teléfono?
可能会有，但手机制造商肯定会这样做，这并不需要新的设备。我认为你必须找到一些技术所能实现的真正不同的交互范式。Si supiera lo que era, estaría feliz de comenzar a investigarlo ahora.
Ahora puedes usar la voz en la aplicación.De hecho, configuré el botón de acción en mi teléfono para ir directamente a la aplicación de voz de Chatgpt, que uso con mis hijos y les encanta hablar.Tiene problemas de latencia, pero es realmente genial.
Lo haremos mejor.Creo que la voz es la pista de lo siguiente.Por ejemplo, si puede hacer que las interacciones de voz sean muy buenas, se siente como una forma diferente de usar una computadora.
Sin embargo, como el problema que ya hemos encontrado, como, ¿por qué no responde?Y se siente como CB, como una y otra vez.Es realmente molesto de usar, pero también es genial cuando te da la respuesta correcta.
Estamos trabajando en este problema.Ahora es voluminoso y lento y no se siente demasiado suave, irreal o antinatural.Lo haremos todo mejor.
¿Qué pasa con la visión por computadora?Puede combinar datos visuales o de video con datos de voz.
Hoy, AI ha podido entender lo que está sucediendo a su alrededor.Puede preguntarle a ChatGPT como lo haría con un dispositivo multimodal, por ejemplo: «¿Qué estoy mirando?»Esta es obviamente otra pista.
Sin embargo, ya sea que las personas elijan usar anteojos o usen algún tipo de dispositivo cuando sea necesario, puede causar muchos problemas interpersonales sociales, y usar dispositivos informáticos puede volverse muy complicado.
Hemos visto esto en el uso de Google Glass.Las personas pueden preocuparse al realizar tareas.Olvidé algunas situaciones específicas.
Si AI está en todas partes, por ejemplo, en los teléfonos de las personas, ¿qué aplicaciones puede desbloquear?¿Te sientes así?¿Qué quieres ver?
Supongo que todo lo que necesito es un dispositivo de fricción ultra-bajo siempre en línea con el que puedo interactuar a través de la voz o el texto, o idealmente otras formas.Solo necesita saber lo que quiero y hay una presencia constante que me ayuda durante el día.Tiene tanta información de antecedentes como sea posible, como el mejor asistente del mundo.Es esta existencia la que me hace mejor y mejor.
Cuando escuchas a las personas hablar sobre el futuro de la inteligencia artificial, pueden imaginar dos formas diferentes, aunque no suena muy diferente.Pero creo que en la práctica, seremos muy diferentes al diseñar sistemas.Quiero una persona que se extienda a sí mismo, como un fantasma u otro, o esta que realmente me pertenece, actúa en mi nombre, responde a los correos electrónicos y ni siquiera necesita contarme al respecto.Es como yo, cada vez más como yo.Por otro lado, quiero un buen miembro del personal senior.Puede que me conozca muy bien y podría delegarlo.Puedes acceder a mi correo electrónico y te contaré sobre las restricciones.Pero creo que es una entidad separada.Personalmente prefiero la forma de ser entidades independientes y pensar que ahí es a donde vamos.
Entonces, en ese sentido, no eres tú, sino un supervisor asistente de asistente listo para usar, siempre genial, súper capaz.
En cierto modo, es como un agente, funciona en su nombre, sabe lo que quiere, predice lo que quiere, y así es como entiendo lo que dice.
Creo que habrá comportamiento de agente, pero hay una diferencia entre el personal superior y los agentes.
Lo quiero, y creo que lo único que me gusta del personal superior es que me refutarán.A veces no hacen lo que pedí, o a veces dicen que puedo hacer eso si quieres.Pero si lo hago, creo que sucederá lo siguiente.Y luego esto, entonces eso.
¿Estás realmente seguro?
Definitivamente quiero que esa atmósfera, no solo que yo le dé una tarea, lo hace a ciegas.Puede razonar y refutar.Es capaz de razonar, y su relación conmigo es como la relación que espero construir cuando trabajo con una persona que es verdaderamente capaz, lo cual es diferente de los halagadores.
De hecho, si tuviéramos una herramienta como Jarvis que tenía capacidades de razonamiento, podría tener un impacto en muchas de las interfaces de productos altamente valiosas que usamos hoy.Tome Instacart, Uber y Doordash como ejemplos, estos servicios no están destinados a ser tuberías, sino que proporcionan un conjunto de API a un grupo de agentes inteligentes ubicuos que representan a 8 mil millones de personas que trabajan en todo el mundo.Entonces, en lo que debemos pensar es en cómo debemos cambiar nuestra comprensión de cómo funcionan las aplicaciones, toda la infraestructura de experiencia, para encajar en este nuevo mundo donde interactúas con el mundo de manera proxy.
Personalmente, estoy muy interesado en diseñar un mundo donde puedan usar tanto los humanos como la inteligencia artificial.Me gusta la interpretabilidad, la fluidez de la entrega y la capacidad de proporcionar retroalimentación.Por ejemplo, Doordash puede exponer algunas API a mis futuros asistentes de IA para permitirle realizar órdenes, etc.Puedo sostener mi teléfono y decir: «Está bien, Asistente de IA, coloque este pedido en Doordash». Donde tanto los humanos como la IA pueden usar lo mismo, creo que es un concepto interesante.
Por la misma razón, estoy más interesado en los robots humanoides que en los robots de otras formas.Este mundo está diseñado para la humanidad y creo que deberíamos mantenerlo así.Compartir la interfaz es una buena idea.
Entonces verá que la voz, el chat y otros modos están reemplazando la aplicación.Solo tienes que decirle que quieres sushi, sabe qué sushi te gusta, sabe lo que no te gusta y hará todo lo posible para satisfacerte.
Es difícil para mí imaginar que estamos entrando en un mundo completamente diferente donde vas a decir: «Oye, chatgpt, dame un poco de sushi». ?Es difícil para mí imaginar un mundo en el que nunca miras la pantalla y usas solo el modo de voz.Pero puedo imaginar que muchas cosas son así.
Apple ha probado Siri.Se dice que puede ordenar Uber automáticamente con Siri.No creo que nadie haya hecho esto porque … ¿por qué vas a arriesgarte a no ponerlo en tu teléfono?Como dijiste, la calidad no es buena.Pero cuando la calidad es lo suficientemente buena, realmente te gusta más porque es más ligero.No tienes que sacar tu teléfono.No tiene que buscar en su aplicación y presionarla.Oh, te registrará automáticamente.Oh, espera, inicia sesión de nuevo.Esto es tan doloroso.
Es como establecer un temporizador con Siri.Hago esto cada vez porque funciona muy bien y es genial.Y no necesito más información.Pero al ordenar a Uber, quiero ver los precios de varias opciones diferentes.Quiero explorar cuán amplio es el alcance de la aplicación de esta tecnología.Incluso quiero saber dónde están en el mapa, ya que podría elegir caminar a algún lado.Creo que al mirar la pantalla de pedido de Uber puedo obtener más información en un tiempo más corto, y si tengo que obtener esa información a través del canal de audio, llevará más tiempo.Me gusta la idea que presentó para observar que suceden cosas, lo cual es realmente genial.Creo que esto traerá algunos cambios, y usaremos diferentes interfaces para diferentes tareas.Creo que esta tendencia continuará.
Entre todos los desarrolladores que crean aplicaciones y experiencias en OpenAI, ¿hay algunos que lo impresionaron?¿Encuentra esta una dirección muy interesante, incluso si es solo una aplicación de juguete?¿Pero lo has señalado y ha dicho que es realmente importante?
Esta mañana, me encontré con una nueva compañía, y de hecho, ni siquiera puede contar como una empresa.Es como si dos personas trabajaran en un proyecto de verano tratando de convertirse en mentores de IA.Siempre me ha interesado en este campo.Hay mucha gente haciendo grandes cosas en nuestra plataforma.Pero si alguien puede entregar la forma en que realmente te gusta, usa una cosa que me gusta, es decir, será como la reconstrucción de nivel de Montessori, la forma en que las personas aprenden las cosas.Pero si puede encontrar esta nueva forma de hacer que la gente explore y aprenda nuevas formas por su cuenta, personalmente me siento muy emocionado por eso.
Devin, muchas cosas relacionadas con la codificación que mencionaste antes, creo que es como una visión realmente genial para el futuro.Creo que la atención médica debería cambiar considerablemente como resultado.Pero lo que más excita más es hacer que los descubrimientos científicos sean más rápido y mejor.Si bien GPT-4 obviamente no juega un papel importante, puede acelerar las cosas al aumentar la productividad de los científicos.
Sam … eso sería una victoria.Estos modelos están entrenados y construidos de manera diferente a los modelos de idiomas.Para algunos, obviamente, hay muchas similitudes.Pero hay muchos modelos con una arquitectura inicial que se aplica a estos conjuntos específicos de problemas, estas aplicaciones específicas, como el modelado de interacción química.Definitivamente necesitarás algunos de ellos.
Creo que lo que generalmente nos falta para muchas de las cosas que discutimos son modelos que pueden razonar.Una vez que tenga la capacidad de razonar, puede conectarlo a un estimulador químico o cualquier otra cosa.
Sí, este es un tema importante que quiero discutir hoy, a saber, el concepto de redes de modelos.La gente a menudo habla sobre la representación como si hubiera un conjunto lineal de funciones de llamadas.Pero una cosa que aparece en la biología es una red de sistemas con interacciones cruzadas, agregación de sistemas … la agregación de redes produce salida, en lugar de una cosa que llama a otra cosa, esa cosa que llama a otra cosa.¿Hemos visto aparecer modelos especializados o modelos de red en esta arquitectura que en conjunto resuelven conjuntos de problemas más grandes, utilizando razonamiento?Hay modelos computacionales que pueden hacer cosas como la química o la aritmética, y hay otros modelos que pueden hacer, en lugar de un modelo puramente generalizado para gobernarlos.
No estoy seguro de cuánto razonamiento puede traducirse en una forma de promoción generalizada.Soy escéptico sobre esto, es más una intuición y expectativa, y si ese es el caso, sería genial.No estoy seguro…
Tomemos el modelado de proteínas como ejemplo.Tenemos una gran cantidad de datos de entrenamiento, imágenes de proteínas y datos de secuencia.
¿Alguna vez ha imaginado que hay una IA general o un modelo de inferencia de gran gran inferencia que puede descubrir cómo construir un submodelo y resolver el problema obteniendo los datos necesarios y luego resolver el problema …
Hay muchas formas de lograr esto.Tal vez entrenará un modelo de texto, o tal vez solo conozca un gran modelo.Puede seleccionar otros datos de capacitación que desee, hacer preguntas y luego actualizar.
Supongo que la verdadera pregunta es, ¿todas estas startups se declararán en quiebra?Debido a que muchas nuevas empresas están trabajando en este patrón, que es obtener datos especiales y luego entrenar nuevos modelos desde cero con estos datos especiales.Entonces hace solo esa cosa.Y funciona muy bien en esa cosa.Es mejor que cualquier otra cosa.
Creo que ya puedes ver una versión.
Cuando hablas de biología y estas complejas redes de sistemas, lo entiendo porque he estado muy enfermo últimamente.Ahora estoy mucho mejor.Pero es como si el cuerpo fuera derrotado sistemáticamente a uno a la vez.Como realmente puedes ver, bueno, esto es algo en cascada.Me recuerda a la biología de la que está hablando, como si no supiera cuán grande es la interacción entre estos sistemas hasta que las cosas comienzan a salir mal.Esto es un poco divertido.
Pero estaba usando chatgpt para tratar de descubrir qué estaba pasando, y de todos modos, diría que no estoy seguro de ello.Luego publiqué un artículo y ni siquiera lo leí, al igual que en el contexto.Decía, oh, eso es algo de lo que no estoy seguro, y ahora creo que sí.Por lo tanto, es como una versión pequeña de la que estás hablando, puedes decir, no sé sobre estas cosas, puedes agregar más información, no necesitas volver a entrenar al modelador para agregar al contexto aquí.
Entonces, estos modelos que predicen la estructura de proteínas, por ejemplo, sí, son toda la base.Ahora, hay otras moléculas en Alfafold3.¿Pueden hacerlo?Sí, ¿es básicamente un mundo en el que el mejor modelo generalizado entra y obtiene datos de capacitación y luego resuelve el problema por sí solo?
Tal vez puedas dar un ejemplo, ¿puedes contarnos sobre Sora?Su modelo de video puede generar increíbles imágenes dinámicas, videos dinámicos y cuán diferente es la arquitectura, sin importar lo que esté dispuesto a compartir, cómo hacerlo único.
Sí, así que comenzaré con la pregunta general, obviamente necesitas emuladores, conectores, fragmentos de datos, etc., pero mi intuición.Una vez más, no tengo una base científica, mi intuición es que si podemos descubrir el núcleo del razonamiento general y conectarlo a nuevas áreas problemáticas, así como los humanos son razonadores generales, creo que es posible desbloquear más rápido, creo que sí.Pero sí, ves que no comienza con el modelo de idioma.Este es un modelo personalizado para videos.Sin embargo, obviamente aún no hemos entrado en ese mundo.
Por ejemplo, para construir un excelente modelo de video, lo construyó desde cero, supongo que utilizó algunas arquitecturas diferentes y datos diferentes.Pero en el futuro sistema de razonamiento general, es decir, AGI, sin importar el sistema, teóricamente puede lograr el objetivo al comprender cómo lograr esto.
Sí, un ejemplo es que, hasta donde yo sé, todos los mejores modelos de texto del mundo siguen siendo modelos autorregresivos.Los mejores modelos de imagen y video son los modelos de difusión.Esto es algo extraño hasta cierto punto.
Por lo tanto, hay mucha controversia sobre los datos de entrenamiento.Creo que usted es el más considerado de todas las empresas, y ahora ha firmado un acuerdo de licencia con FT y otros.Tenemos que ser un poco cautelosos aquí porque estás involucrado en la demanda del New York Times y no creo que puedas llegar a un acuerdo con ellos sobre los datos de capacitación.
¿Cómo se ve la justicia del uso razonable?Tuvimos un acalorado debate sobre el podcast.Obviamente, sus acciones demuestran completamente que está tratando de lograr la equidad a través de un acuerdo de licencia.Entonces, ¿qué posición asumes personalmente los derechos de los artistas que crean música hermosa, letra y libros?¿Utiliza estos derechos para hacer productos derivados y luego monetizarlos?¿Qué es la justicia?¿Cómo podemos lograr que los artistas creen contenido y luego decidan qué quieren que otros hagan con él?
Tengo curiosidad por sus creencias personales porque sé que eres una persona reflexiva a este respecto.Sé que muchos otros en nuestra industria no piensan muy bien con los creadores de contenido.Así que creo que diferentes tipos de personas serán muy diferentes.
En términos de uso justo, creo que tenemos una posición muy razonable bajo la ley actual, pero creo que la IA es muy diferente.Pero para cosas como el arte, debemos pensar de manera diferente.
Pero, supongamos que lees un montón de matemáticas en línea y aprendiste a hacer matemáticas, creo que eso parece intransigente para la mayoría de las personas.Luego, hay otro grupo de personas que podrían tener opiniones diferentes.De hecho, para no ser demasiado largo, no discutiré este tema en profundidad.
Así que creo que hay un tipo de personas que dirían, bueno, hay un amplio conocimiento humano, se puede decir, si aprendes, es decir, los campos abiertos y similares, si vas a aprender el teorema de Pitágoras.Este es un extremo del espectro.Creo que el otro extremo del espectro es el arte, tal vez incluso un poco más específico, diría que es como hacerlo, es un sistema que produce arte en el estilo o similitud de otro artista, que es probablemente el más extremo.Luego hay muchas situaciones en el medio del espectro.
Creo que el enfoque de la discusión ha estado históricamente en los datos de capacitación, pero a medida que disminuye el valor de los datos de capacitación, la discusión recurrirá cada vez más a lo que sucede al razonar.Y lo que hace el sistema, accede a la información en el contexto en tiempo real, o tomando medidas similares, lo que sucede al razonar y cómo se debatirán más los nuevos modelos económicos.
Entonces, si dice, por ejemplo, si dice, por ejemplo, escriba una canción para mí al estilo de Taylor Swift, incluso si el modelo nunca ha sido entrenado con ninguna canción de Taylor Swift, todavía tiene la pregunta, es decir, el El modelo puede haber leído artículos sobre Taylor Swift, probablemente conociendo su tema, lo que Taylor Swift significa.La siguiente pregunta es, incluso si este modelo nunca ha sido entrenado con canciones de Taylor Swift, ¿deberíamos permitir que lo haga?Si es así, ¿cómo se debe pagar a Taylor Swift en consecuencia?
Creo que primero, debería haber una opción en este caso, es decir, una opción para unirse o salir, y luego debería haber un modelo económico.Tome la música como ejemplo, desde una perspectiva histórica, aquí hay algunas cosas interesantes para ver, es decir, muestreo y cómo funcionan la economía en torno a muestreo.Es exactamente lo mismo, pero es un punto de partida interesante.
Sam, déjame desafiar esto.
¿Cuál es la diferencia en el ejemplo que diste?El modelo aprende la estructura, el ritmo, la melodía, la armonía, la relación de la canción, descubre todas las estructuras subyacentes que hacen que la música sea exitosa, y luego usa datos de entrenamiento para construir nueva música.Y los humanos escuchan mucha música, sus cerebros están procesando y construyendo los mismos modelos predictivos, y estos son los mismos descubrimientos o entendimientos.¿Cuál es la diferencia aquí?Por qué dices que tal vez el artista debería ser recompensado de manera única, no es un caso de muestreo, no eres AI sin salida, no almacena canciones originales reales en el modelo.
Sí, aprende estructura.
Así que no estoy tratando de enfatizar eso, porque estoy de acuerdo, así como los humanos están inspirados por otros humanos.Quiero decir, si dices escribir una canción de estilo Swift para mí.
Veo.Creo que ahí es donde se utilizan los consejos para aprovechar a algunos artistas.
Personalmente, creo que esta es una situación diferente.
¿Le gustaría dejar que el modelo se entrene, utilizando todo el corpus musical creado por humanos para entrenar el modelo de música sin pagar regalías a los artistas que ingresaron a la música?
Entonces no puedes preguntarle al artista consejos específicos, puedes decir, oye, dame una canción pop genial, esta canción es bastante moderna, contando una historia desgarradora, con la voz de una mujer.
Hemos decidido no hacer música en este momento.Parte de la razón es donde dibujas la línea.
Recientemente me reuní con algunos músicos que admiro mucho y solo quería hablar sobre estos extremos, pero incluso en este mundo, si vamos, digamos que pagamos a 10,000 músicos para crear un montón de música solo por hacer un Gran set de entrenamiento, los modelos de música aprenden todo sobre poderosas estructuras de canciones.Lo que hace ritmos buenos y pegadizos y todo lo demás.Y solo entrena esto, suponiendo que todavía podemos hacer grandes modelos de música, tal vez podamos.Siento que lo estoy posando antes de un músico como experimento mental.Y bien, en ese momento no podía objetar esto en ningún principio.Sin embargo, todavía no me gusta.Ahora, esa no es necesariamente una razón para no hacerlo.Pero esto es.
¿Has visto los anuncios publicados por Apple, tal vez ayer, o algo así, comprimiendo toda la creatividad humana en un iPad muy delgado?
¿Qué piensas de esto?
La gente está muy entusiasmada con esto.
Sí.La reacción es más fuerte de lo que piensas.
Obviamente, soy muy optimista sobre la inteligencia artificial, pero creo que hay algo de belleza en la creatividad humana y la expresión artística humana.Esto es ideal para una IA que puede hacerlo mejor en la investigación científica, vamos.Sin embargo, si la IA puede alcanzar el nivel de una expresión creativa profunda y hermosa de los seres humanos, creo que debemos tener claro cómo sucederá esto.Se convertirá en una herramienta que nos lleva a alturas creativas más altas.Pero creo que necesitamos encontrar formas de hacer esto para preservar el espíritu que a todos nos importa.
Creo que tus acciones son muy convincentes.Estamos tratando de crear los personajes de Star Wars en Dall-E.Si le preguntas a Darth Vader, dirá, oye, no podemos hacer eso.Entonces, creo que has formado un equipo rojo internamente o puedes llamarlo como quieras.Lo hemos intentado.Sí, no permite que las personas usen la propiedad intelectual de otras personas.Entonces has tomado esta decisión.
Ahora, si le pides que haga un bulldog Jedi o un bulldog Sith Lord (que hice), convertirá mi bulldog en un bulldog Sith.
Hay una pregunta interesante sobre lo que dijiste, sí.Lanzamos algo llamado Normas ayer e intentamos ilustrar cómo debería comportarse nuestro modelo.Esta es una tarea difícil.Este es un documento muy largo.Es muy difícil especificar exactamente dónde debe estar el límite en cada caso.Creo que esta es una discusión que requiere más aportes.
Sin embargo, la idea del señor Sith, el estilo de Sith o Jedi es como una parte de la cultura en este momento, y estas son decisiones difíciles.
Sí, creo que tienes razón.La industria de la música considerará esta oportunidad para hacer que las canciones de Taylor Swift.Esto es parte de las pruebas de uso justo de cuatro partes que pueden aprovechar nuevas innovaciones en el arte existente.Disney tiene una discusión, oye, si vas a hacer una versión Sora de Ashoka, o Obi-Wan Kenobi, esa es la oportunidad de Disney.Esta es una gran asociación para usted.
Entonces, creo que estoy marcando esta parte como AI y ley.
Entonces, déjame hacer una pregunta de nivel superior.¿Qué significa cuando la gente dice regular la inteligencia artificial?También puede comentar sobre las regulaciones recientemente propuestas en California si lo prefiere.
Estoy muy preocupado por esto.Hay muchas regulaciones propuestas, pero la mayoría de las regulaciones que veo sobre California me preocupan.También me preocupa que los estados lo hagan ellos mismos.
Cuando la gente dice que quieren regular la IA, no creo que significen algo específico.Creo que algunas personas prohibirán todo.Algunas personas dirán que no está permitido ser de código abierto y requerirá que sea de código abierto.Lo que más me interesa es que creo que alguien dirá, mira, podría estar equivocado.Admito que esta es una declaración prospectiva.Y hacer estas declaraciones siempre es peligroso.Pero creo que en el futuro cercano, habrá un día en que no estamos hablando de décadas después.Para estos sistemas, del mismo modo, realizamos una supervisión global de cosas como armas nucleares o organismos sintéticos que pueden tener efectos muy negativos que pueden ir mucho más allá del alcance de un país.Espero ver una institución internacional investigando los sistemas más poderosos y garantizar que se realicen pruebas de seguridad razonables.Estos sistemas no escaparán automáticamente, ni se mejorarán, etc.
Sin embargo, la crítica de esto es que tiene los recursos para complacer, presionar, participar, tiene estrechos vínculos con los políticos y para las nuevas empresas, a pesar de su entusiasmo e inversión, no tienen suficientes recursos para lidiar con este problema.Este fenómeno de la captura regulatoria, como lo señaló nuestro amigo Bill Gurley en su discurso el año pasado.
Entonces, tal vez puedas resolver este problema de frente.Estaría contento con eso si solo nos centramos en modelos capacitados en computadoras por valor de más de $ 10 mil millones o más de $ 100 mil millones o cualquier otra cosa.Esta es una línea que puedo aceptar.No creo que esto ponga ninguna carga regulatoria en las nuevas empresas.
Entonces, si tiene la materia prima nuclear para hacer una bomba nuclear, al igual que un pequeño número de personas lo tiene, puede usar una analogía como un inspector nuclear.Creo que este es un punto interesante.
¿Puedo decir una cosa más?ciertamente.Estoy muy nervioso por la sobre-regulación aquí.Creo que podemos salir mal si hacemos demasiado, o incluso un poco exagerado.Creo que no hacemos lo suficiente y podemos salir mal.Pero creo que parte de la razón es … ahora, hemos visto que la extralimitación o el control se ponen realmente mal en otras áreas.
Y, tal vez no suceda nada.Pero creo que es parte de nuestro deber y misión hablar sobre lo que creemos que es posible y lo que hay que hacer para lograrlo.
Sam, el desafío es que tenemos leyes y regulaciones para proteger a las personas y a toda la sociedad.
Sin embargo, las regulaciones que estamos desarrollando brindan a los gobiernos el derecho de ingresar y auditar secretos comerciales.Nunca hemos visto regulaciones de este nivel antes.Básicamente, la legislación propuesta por California y alguna legislación federal básicamente requieren auditorías gubernamentales de los parámetros y pesos de un modelo, software de auditoría, auditoría y modelos de revisión.Luego necesita su tic para implementarlo para uso comercial o público.
Para mí, parece que estamos tratando de controlar a las agencias gubernamentales para crear miedo.Debido a que las personas son difíciles de entender esto, miedo de sus efectos, quieren controlarlo.Y la única forma de controlarlo es darme los derechos de auditoría antes de publicarlo.
Sí, no saben nada.Estas personas no saben nada.La forma en que se escriben estas cosas, las lees, te volverás loco.Porque, como saben, en 12 meses, estas cosas no tendrán sentido de todos modos.He presionado por un enfoque basado en la agencia para resolver el panorama general en lugar de escribirlo como la ley,
No creo que incluso si estas personas son expertos del mundo real, no creo que puedan manejarlo correctamente en 12 o 24 meses.No me parece.Revisaremos estas políticas, realizaremos una revisión exhaustiva de todo su código fuente y veremos todos sus pesos uno por uno.Creo que hay muchas propuestas locas, especialmente cuando el modelo está constantemente reentrenado y se vuelve más dinámico.Por eso creo que tiene sentido.
Antes de que la aeronave esté certificada, realizaremos una serie de pruebas de seguridad para que la aeronave pase a través de estas pruebas.Esto es completamente diferente del proceso de leer todo el código.Estamos revisando la salida del modelo, sin mirar el interior del modelo.
Entonces, creo que tiene sentido hacer pruebas de seguridad.
Entonces, Sam, ¿cómo debemos lograr esto?
Estoy aquí no solo representando a OpenAi, sino también a toda la industria e incluso a los humanos.Me preocupa que si limitamos estas tecnologías que tienen un gran potencial de desarrollo y grandes beneficios para la humanidad, podemos caer en la era oscura.Entonces, ¿cómo debemos cambiar esto y lograr esto?
Debido a que el nivel del gobierno se está desarrollando demasiado rápido, la gente parece haber obtenido la dirección equivocada, y estoy preocupado por eso.Sobre esta base, Sam, por ejemplo, las decisiones arquitectónicas de Lama son muy interesantes porque dejaremos que LLAMA crezca con la menor cantidad de limitaciones posible.Tenemos otra cosa, lo llamamos la Guardia de la Llama, que está diseñada para ser estas barandillas protectores.
¿Cuál crees que es la forma correcta de resolver el problema?
A juzgar por la fuerza del modelo actual, definitivamente habrá algunos problemas.No quiero subestimarlos ni tomarlos en serio.Pero no me preocupa ningún riesgo catastrófico que traiga el modelo de nivel GPT-4.Creo que hay muchas formas seguras de elegir implementarlo.
Si decimos eso, tal vez encontraremos un terreno más común.Me gusta este ejemplo concreto, que los modelos son capaces, técnicamente e incluso si no se usan de esta manera, pueden ser recursivamente superiores, o autodesignar y desplegar armas biológicas, o algo así.O un nuevo modelo.Ese es el punto clave de la superación personal recursiva.
Deberíamos realizar pruebas de seguridad de la producción de los modelos a nivel internacional, porque estos modelos tienen oportunidades razonables para representar una amenaza allí.No creo que nada como GPT-4, por supuesto, no represente ninguna amenaza, bueno, no estoy diciendo ninguna amenaza, porque no creemos, sí, no creo que GPT-4 sea una sustancial amenaza para estas cosas.Creo que hay muchas formas seguras de publicar tales modelos.
Pero cuando las bajas importantes son una posibilidad seria, como un avión o cualquier otro ejemplo, creo que estamos felices de tener algún tipo de marco de prueba, como cuando me subo al avión, no pensaré en el avión, solo Suponga que será seguro.
Sam, ahora hay muchas preocupaciones sobre el empleo.Hiciste muchas pruebas sobre UBI cuando estabas en YC.Sus resultados saldrán pronto.Solo digo, este es un estudio que terminó o comenzó hace cinco años.Primero hay investigación beta, luego investigación a largo plazo.Sin embargo, ¿qué has aprendido de todo esto?
De hecho, ¿por qué lo empezaste todo?¿Puedes explicar por qué comenzaste a mirar el ingreso básico universal (UBI)?
Comenzamos a pensar en esto en 2016, y al mismo tiempo, comenzamos a tomar en serio la IA.En teoría, el alcance del cambio en el empleo en la sociedad y la economía, y el potencial de un significado más profundo (por ejemplo, cómo cambiará el contrato social), significa que debemos investigar mucho para explorar cómo se organizan estos nuevos cambios. ideas.
Debo admitir que no soy un ávido defensor del manejo del gobierno de la mayoría de las políticas destinadas a ayudar a los pobres.Tiendo a creer que si puedes darle dinero a las personas, tomarán las decisiones correctas y el mercado funcionará.Me apoyo mucho en elevar el nivel mínimo de vida, reducir la pobreza e incluso eliminar la pobreza.Pero estoy interesado en si hay mejores formas de lo que hemos probado para la red de seguridad social existente y cómo manejar las cosas.
No creo que dar dinero a las personas resuelva todos los problemas y, por supuesto, no hará feliz a la gente.Pero puede resolver algunos problemas y dar a las personas una mejor perspectiva para ayudarse a sí mismas.Estoy muy interesado en esto.
Creo que ahora vemos algunos enfoques, por lo que 2016 fue hace mucho tiempo.Ahora que vemos algunas formas en que se está desarrollando la IA, me pregunto si hay algo mejor que hacer que el concepto tradicional de UBI.Por ejemplo, me pregunto si el futuro será más como la computación básica general que el ingreso básico general.Todos obtienen una parte de los cálculos GPT-7 que pueden usar, pueden revender, pueden donar a alguien para la investigación del cáncer.Pero lo que obtienes no es el dólar, sino una parte de la productividad.Sí, tienes algo de productividad.
Ok, hablemos de chismes.Entonces, volvamos a noviembre del año pasado.¿Qué pasó exactamente?
Si tiene preguntas específicas, estaría encantado de responder, tal vez dije que hablaremos de ello en algún momento.
Entonces ese es el punto.¿qué pasó?Estás despedido y vuelves, es un complot de la corte.¿Alguien te ha apuñalado en la parte de atrás?¿Has encontrado el objetivo final de la inteligencia artificial (AGI)?¿Qué pasó?Este es un espacio seguro.
Fui despedido.Dije que regresé y que estaba un poco inseguro de lo que quería hacer porque estaba muy molesto.Me di cuenta de que realmente me gusta Openai y la gente allí, volveré y sé que será difícil.Esto es más difícil de lo que pensaba.Pero pensé en ese momento, está bien, no hay problema.Estoy de acuerdo en volver.La junta tardó un tiempo en resolverlo.Luego, estábamos tratando de reunir al equipo y seguir haciendo cosas por nuestros clientes.Luego, otros planes comienzan a desarrollarse, y la junta decide contratar a otro CEO interino.Dios mío, ¿cómo se llama ese tipo?Su presencia es como asustar a la gente, lo cual es genial.Solo tengo cosas buenas que decir.
Entonces, ¿dónde aprendiste sobre tu disparo?
Lo aprendí mientras pasaba el fin de semana en una habitación de hotel en Las Vegas.Recibí un mensaje de texto y me dijeron, dispararon y lo recogen.Creo que has tenido esta situación antes de intentar pensar si me despedieron.No creo que esté cansado de esto.Sí, recibí un mensaje de texto.No, es solo una cosa extraña.
Entonces, ¿quién envió este mensaje de texto?
En realidad, recibí este mensaje de texto la noche anterior.Luego hablé con la junta directiva.Y entonces eso es todo.Luego lo obtuve y luego todo se volvió loco.Mi teléfono no estaba disponible en ese momento.Simplemente sigue temblando, como mensajes de texto, llamadas telefónicas.
Básicamente, fuiste despedido de un tweet.Esto ha sucedido varias veces durante la administración Trump.
Me llamaron antes de tuitear, lo cual fue genial para ellos.Luego, pasé varias horas en mi habitación de hotel en un estado totalmente hilarante.Estaba muy confundido en ese momento y no sabía qué hacer.Demasiado extraño.
Luego volé a casa, probablemente en el avión, alrededor de las 3 p.m.Aún así, ya sabes, el teléfono loco sigue sonando.Conocí a algunas personas en persona.Esa noche, pensé, ok, haré una investigación agi y estoy muy feliz por el futuro.Sí, tengo una opción.
Luego, a la mañana siguiente, recibí una llamada telefónica con varios miembros de la junta para discutir los problemas que regresaron, lo que llevó a unos días más de caos.Entonces, sentí que el asunto estaba resuelto.Bueno, hay muchas cosas locas en el medio.
¿Cuántos de estos miembros de la junta sin fines de lucro se deben a estos miembros de la junta sin fines de lucro?
Bueno, solo tenemos un tablero sin fines de lucro.Entonces todos son miembros de la junta sin fines de lucro.La junta directiva se ha reducido a seis.Luego sacaron a Greg del tablero y me despidieron.
Entonces, ¿existe un conflicto cultural entre personas con solo experiencia sin fines de lucro y aquellas con experiencia empresarial en la junta?Si lo desea, tal vez pueda compartir la motivación detrás de la acción, cualquier cosa que pueda compartir.
Creo que siempre han existido conflictos culturales.Obviamente, no todos los miembros de la junta son mis favoritos, pero tengo mucho respeto por su seriedad hacia AGI y la importancia de tratar correctamente la seguridad de la IA.Incluso si estoy totalmente en desacuerdo con sus decisiones y acciones, nunca dudé de su integridad o compromiso con una misión compartida para un AGI seguro y beneficioso.
Creo que tomaron la decisión correcta en el proceso o sabían cómo equilibrar todo lo que Operai tiene que hacer, ¿verdad?No.Pero creo que tienen intenciones, tienen intenciones de escala AGI y lo hacen bien.
En realidad, déjame hacerte esta pregunta.Así que la misión de OpenAI es claramente crear AGI, y creo que es muy divertido.Muchas personas piensan que si creamos inteligencia artificial (AGI), sería el resultado inesperado de que algo salga mal.Tenían mucho miedo.Sin embargo, OpenAi lo ve como una misión práctica.¿Esto te hará sentir más temeroso de lo que haces?Entiendo que esto puede generar motivación, pero ¿cómo se reconcilia esto?Me pregunto por qué es una misión.
Creo que, en primer lugar, que quiero responder es que esto realmente desencadena mucho miedo.Creo que muchas personas en el mundo tienen mucho miedo de AGI, incluso la IA actual, y también están muy entusiasmadas con su dirección, aún más asustada y entusiasmada.Luchamos con eso.Pero creo que esto es inevitable.También creo que traerá grandes beneficios.Pero tenemos que encontrar una manera de llegar allí de manera razonable.Muchas cosas cambian y los cambios hacen que las personas se sientan incómodas.Entonces tenemos mucho que hacer.
¿Puedo hacer una pregunta diferente?Has creado una de las compañías más populares.Y de hecho estás en el centro.Pero desde una perspectiva económica, evita todos estos valores, lo cual es muy único.¿Puedes decirnos?
Sí, desearía tener la equidad en ese momento para no tener que responder a esta pregunta.Si pudiera volver al pasado …
¿Por qué no te dan una subvención ahora?¿Por qué la Junta Directiva no le otorga una gran opción que se merezca?¿Cuál fue la decisión en ese momento?¿Por qué es tan importante?
La razón inicial de la decisión en ese momento fue solo la estructura de nuestra organización sin fines de lucro.Desde un punto de vista motivador, esto es genial.Pero principalmente nuestro tablero necesita la mayoría de los directores desinteresados.Creo que es bueno.No necesito equidad ahora.Soy un poco … pero espero …
Pero de esta manera extraña, ahora diriges una empresa, sí, crea estas preguntas extrañas como, ¿cuál es tu verdadera motivación …
Totalmente correcto.
Es tan profundo … una cosa que noté es que es difícil para las personas imaginar que van a decir «No necesito más dinero».También sé cuán insensible es el tono … Creo que la gente piensa que es un pequeño motivo oculto.Sí.Entonces, suponiendo … ¿qué está haciendo para ganar dinero?Si acabo de decir, voy a ganar un billón de dólares con Operai, creo que todos estarán más relajados y eso no me salvará.Esto ahorrará muchas teorías de conspiración.
Sam, eres un gran comerciante.He seguido toda tu carrera.Eres muy bueno en esto.Tienes todas estas relaciones.Eres realmente bueno para recaudar fondos.Eres genial a este respecto.Tienes a Johnny Ivy, invierte en la compañía, obtienes la pelota, recauda $ 7 billones para construir el fabuloso, todo eso.Todos estos factores combinados juntos,
Solo soy una broma aquí.Obviamente, no recaudó $ 7 billones, lo que podría ser simplemente capitalización de mercado o algo así.Sin embargo, dejando de lado eso, la clave es que ha realizado todas estas transacciones.Su desconfianza contigo es por qué es tu motivación?Finalmente te fuiste, ¿cuáles son las oportunidades dentro de Openai?¿Qué oportunidades deberían pertenecer a Sam y las de estas organizaciones sin fines de lucro no confían en usted?¿Es eso así?
Si fuéramos compañías de equipos, o estábamos trabajando en algunas empresas de fabricación de chips, esos no eran los proyectos de Sam.Al igual que Operai obtendrá esa equidad.Lo conseguirán.
Sin embargo, esta no es la opinión pública.No es la opinión de las personas que comentan estas cosas todo el día.Es justo porque aún no hemos anunciado estas cosas, porque aún no ha hecho.No creo que la mayoría de las personas en el mundo estén pensando en esto.Pero estoy de acuerdo, esto ha provocado muchas teorías de conspiración entre los comentaristas técnicos.
Si pudiera retroceder en el tiempo, diría, déjame aclarar esto con justicia.Luego, todavía lo hago porque realmente me importa AGI y creo que es el trabajo más interesante del mundo.Pero al menos, advertirá a todos.
Entonces, ¿qué es un proyecto de chip?Eso es $ 7 billones.¿De dónde vinieron esos $ 7 billones?
No sé de dónde vino eso.En realidad, realmente no lo sé.Creo que el mundo necesita más infraestructura de inteligencia artificial, superando con creces el número de construcción actualmente planificada, y la estructura de costos también es diferente.La forma específica en que estábamos jugando allí, todavía estábamos tratando de resolverlo.
¿Qué te gusta del modelo organizacional de OpenAI?¿Es como una acción rápida, rompiendo la norma, un pequeño equipo altamente fragmentado?¿O es más de este esfuerzo organizado que necesita planificar porque desea evitar algunas situaciones extremas?
Esto no se debe a que necesitemos estar más organizados para evitar situaciones extremas.Pero debido a que estos sistemas son muy complejos, las apuestas concentradas son muy importantes.Por ejemplo, antes de hacer esto, tiene empresas como DeepMind, todos estos equipos diferentes que hacen estas cosas diferentes.Destacan las apuestas.Dejas que Openai dice que básicamente tenemos a toda la compañía trabajando duro para hacer el GPT-4 juntos.Esto es inimaginable sobre cómo ejecutar un laboratorio de investigación de IA.Pero creo que, al menos funciona, funciona para nosotros.Por lo tanto, no es porque queramos evitar situaciones extremas, sino porque queremos concentrar recursos y hacer estas cosas grandes, difíciles y complicadas.De hecho, hay mucha coordinación en nuestro trabajo.
Ok Sam, entiendo que debes irte.Has hecho un gran trabajo en la última hora.Bienvenido a regresar en cualquier momento, estoy muy feliz de hablar contigo.Sí, fue una conversación muy interesante.Gracias por venir
Sam, gracias por tu honestidad también.Hemos estado discutiendo este tema durante más de un año.Esto es increíble y estoy muy agradecido por ello.
Espero volver después de la próxima gran conferencia de prensa para poder hablar sobre algunas de estas cosas más directamente.
Sí, ha recibido el enlace Zoom.El mismo enlace de zoom se usa cada semana, y al mismo tiempo, puede unirse en cualquier momento (risas).
