jakiro
El ex CEO de Google, Eric Schmidt, quien es «Ni un empleado de Google ahora», lo compartió en Stanford no hace mucho.
La acción se filmó como un video subido a la cuenta oficial de la clase en línea de Stanford en YouTube, que incluyó más de 40 minutos de la sesión de Schmidt con el estudiante Q & amp; a.
Debido a que el punto de vista es demasiado directo y el discurso es demasiado sólido, el intercambio de Schmidt está en las noticias.
La cuenta oficial de Stanford ocultó todos los videos.
Finalmente, Schmidt se disculpó por los «comentarios de error» en una entrevista por correo electrónico.
Blogger de tecnología conocidaLanxiSe resume el contenido clave compartido por Schmidt, TLDR.Las preguntas y respuestas a tiempo completo de Schmidt también se adjuntan al final del artículo.
¿Por qué Google ahora está siendo suprimido por OpenAI en el campo de la IA?Porque Google siente que llevar a los empleados en casa temprano y equilibrar su trabajo es más importante que ganar la competencia.Si sus empleados solo vienen a la empresa a trabajar un día a la semana, ¿cómo podría compararse con OpenAi o antrópico?
Mira a Musk, mira TSMC. ¿Los estudiantes de doctorado en los Estados Unidos van a la línea de asamblea?
He cometido muchos errores, como una vez pensé que CUDA de Nvidia era un estúpido lenguaje de programación, pero ahora CUDA es el foso más impresionante de Nvidia. Eso no puede ser sacudido por otras chips.
También me sentí increíble cuando Microsoft cooperó con Openi. Realmente son todos burocráticos, y todas las luchas están comenzando un negocio.
Tiktok enseña a los estadounidenses una lección. El dinero para contratar a la mayoría de los abogados más importantes lo ayudan a limpiar su trasero, y si no lo hace, nadie lo demandará.
Stargate de Openi dijo que costaría 100 mil millones de dólares durante su publicidad, pero de hecho, podría no poder atrapar 300 mil millones de dólares. Buenas relaciones con Canadá en el futuro, tienen abundantes recursos de agua y electricidad, y tienen fuerza laboral.
Europa ya no es una oportunidad. Los aliados de los Estados Unidos y los Estados Unidos han perdido China.
El código abierto es muy bueno. invertido, se convertirá en una ruta de código cerrado.
AI hará que los ricos y los más pobres sean más pobres, y también lo hará el país.
Los chips de IA pertenecen a la industria manufacturera de alta gama, con un alto valor de salida, pero es poco probable que impulsen el empleo. Y sucio, así que no espere la industria de la fabricación.
Históricamente, después de la introducción de la electricidad en las fábricas, no se creó más productividad que las máquinas de vapor.La IA de hoy es tan valiosa como el poder del original, pero aún requiere innovación organizacional para lograr un gran rendimiento en la actualidad.
Haga clic para seguir para descubrir más emprendedores de IA
1.Tres tecnologías de IA que cambiarán el futuro
Anfitrión: ¿Qué opinas del desarrollo de la IA a corto plazo?La definición a corto plazo para usted debe ser el próximo uno o dos años, ¿verdad?
Eric Schmidt: Las cosas van demasiado rápido, y siento que cada seis meses, tengo que dar un discurso sobre el futuro nuevamente.¿Hay algún especialista en informática aquí?¿Alguien puede explicarle qué es una ventana de contexto de un millón de tokens?
audiencia: El significado básico es que preguntar rápido puede usar un millón de tokens o un millón de palabras, o algo similar.
Eric Schmidt: Entonces, un millón de tokens significa que puede hacer una pregunta de un millón de palabras de longitud.
audiencia: Sí, sé que esta es una gran dirección para Géminis en este momento.
Introducción al sitio web oficial de Gemini (la traducción al chino es un efecto de complemento, gracias a la traducción inmersiva)
Eric Schmidt: No, su objetivo es llegar a diez millones.Anthrope ha alcanzado los 200,000 y todavía está creciendo.El objetivo es un millón o más, y es concebible que Operai tenga objetivos similares.¿Alguien puede darnos una definición técnica y explicar qué es un agente de IA?
audiencia: El agente de IA es realizar tareas en línea, comprar cosas en su nombre y varias operaciones similares.
Eric Schmidt: Entonces, el agente es algo que realiza una determinada tarea, y otra definición es un modelo de lenguaje grande con funciones de memoria.Permítanme hacer otra pregunta, un estudiante en informática, ¿alguien puede explicar qué es el texto de acción?
audiencia: Significa expandir el texto a más texto, entrada de texto y luego la IA desencadena operaciones basadas en el texto.
Eric Schmidt: Otra definición es convertir el lenguaje en Python, un lenguaje de programación que nunca pensé que continuaría sobreviviendo.Pero ahora todo en AI se hace en Python.Recientemente, hay un nuevo lenguaje que se acaba de lanzarse llamado Mojo, que parece finalmente resolver el problema de la programación de IA, pero también necesitamos ver si puede sobrevivir bajo la situación de Python.
Permítanme hacer otra pregunta técnica, ¿por qué NVIDIA vale $ 2 billones, mientras que otras compañías están en problemas?
audiencia: Por razones técnicas.Creo que esto se debe principalmente a la optimización del código en ejecución.La mayor parte del código actualmente necesita ejecutarse en un entorno optimizado, y actualmente solo la GPU de NVIDIA puede hacerlo.De hecho, otras compañías tienen la capacidad de desarrollar diversas tecnologías, y pueden tener hasta diez años de experiencia en desarrollo de software, pero no tienen equipos que optimicen específicamente para el aprendizaje automático.
Eric Schmidt: Me gusta considerar a Cuda como el lenguaje C de la GPU.Esta es mi forma de comprensión favorita.Nació en 2008 y siempre pensé que era un mal idioma, pero se convirtió en la corriente principal.Ahora hay un conjunto completo de bibliotecas de código abierto, todas altamente optimizadas para CUDA.Esto es ignorado por todos los que construyen estas pilas tecnológicas.Lo llamamos tecnología VLM, además de otras bibliotecas de código abierto similares, todas están optimizadas para CUDA.Esto es difícil para los competidores replicarse.
¿Qué significa lo anterior?
Durante el próximo año, verá las capacidades de ventanas de contexto, agentes y textos de textos de más de contexto.Cuando se aplican a escala, el impacto será aún mayor que el gran impacto de las redes sociales que vemos ahora, al menos en mi opinión.En la ventana de contexto, puede usarla como memoria a corto plazo, y es impactante ser tan grande, y técnicamente el servicio y la informática son muy complejos.
Lo interesante de la memoria a corto plazo es dejar que lea 20 libros, ingrese el texto de estos libros como una consulta y dejar que le diga qué es el libro.El cerebro humano olvida la parte media.Hay algunas personas que ahora construyen agentes básicos de LLM.La forma en que funcionan es, por ejemplo, leer el contenido de la química, descubrir los principios de química, luego probarlo y luego agregar los resultados a su comprensión.Esto es muy poderoso.
El tercer punto es el texto a la acción que mencioné.Por ejemplo, el gobierno ahora está considerando prohibir a Tiktok.No sabemos si sucederá.Si Tiktok está prohibido, le sugiero que le digas a tu LLM: copie un tiktok, obtenga todos los usuarios, obtenga toda la música, únase a mis preferencias, genere y publique dentro de los 30 segundos.Si no hay fuego dentro de una hora, cambie a un enfoque similar, este es el comando.Bang Bang Bang, se hará de inmediato.
¿Lo entiendes?Si puede generar directamente cualquier instrucción digital desde cualquier idioma, esto es básicamente lo que Python hace en este escenario.Imagine que todos tienen un programador que puede trabajar como usted pide, y ya no aquellos que trabajan para mí pero son desobedientes.(Risas) Todos los programadores saben de lo que estoy hablando.Imagine a un programador que no es arrogante y hace lo que solicita sin pagar tanto dinero.Y estos programadores están disponibles ilimitadamente.Y estos …
anfitrión: Se realizará dentro de los próximos uno o dos años.
Eric Schmidt: Pronto se realizará.Estoy muy seguro de que sucederán en la próxima ola de tecnología.
Oyente: Usted mencionó que la combinación de ventanas de contexto extendidas, proxy y texto a acción tendrá efectos inimaginables.Primero, ¿por qué son importantes estas combinaciones?En segundo lugar, sé que no puedes predecir el futuro, pero ¿por qué crees que esto estará más allá de nuestra imaginación actual?
Eric Schmidt: Creo que se debe principalmente a que las ventanas de contexto extendido pueden resolver el problema de la puntualidad.Los modelos actuales de IA tardan aproximadamente un año en entrenar, incluidos 6 meses de preparación, 6 meses de entrenamiento y 6 meses de ajuste, por lo que siempre están un poco retrasados.Pero la ventana de contexto extendida le permite ingresar la información más reciente, que es muy poderosa y se puede actualizar en tiempo real al igual que Google.
Con respecto al modelo de agentes, doy un ejemplo.Construí una base, financié una organización sin fines de lucro y comenzaron un proyecto con una herramienta llamada Chemcrow, un sistema basado en un modelo de lenguaje grande para aprender química.Utilizan este sistema para generar hipótesis químicas en proteínas, y luego el laboratorio hará pruebas por la noche, y el sistema continuará aprendiendo.Esto ha acelerado enormemente el progreso de la investigación en los campos de la química y la ciencia de los materiales.
Creo que el «texto a acción» puede entenderse como el efecto aportado por una gran cantidad de programadores baratos.Pero no creo que realmente entendamos lo que sucede cuando todos tienen su propio programador.
Puedes imaginar un escenario, como si no te guste Google.Solo diga, ayúdame a crear un competidor de Google, buscar páginas web, crear interfaces, agregar IA generativa y hacerlo en 30 segundos.Es probable que estas empresas establecidas, como Google, se vean amenazadas por tales ataques, y ya veremos.
2.«Ya no soy un empleado de Google».
anfitrión: Trabajaste en Google durante muchos años, e inventaron la arquitectura del transformador, y Peter (Peter Norvig, ex director de ingeniería de Google Research) es uno de los principales.Gracias a personas inteligentes como Peter y Jeff Dean.Pero ahora, Google parece haber perdido su ventaja en la iniciativa, y Operai se ha puesto al día.Claude de Anthrope viene en el último ranking que he visto.Le pregunté a Sundar (Sandar Pichai) y él no me dio una respuesta definitiva.Tal vez tenga una explicación más clara u objetiva sobre lo que sucedió exactamente allí.
Eric Schmidt: Ya no soy un empleado de Google.Hablando francamente, Google presta más atención al equilibrio entre el trabajo y la vida, salir del trabajo temprano y trabajar desde casa parece ser más importante que ganar una batalla.El secreto del éxito de una startup es que los empleados trabajan duro.Lo siento, es tan sencillo, pero esa es la verdad.Si comienza una empresa después de la graduación, no permitirá que los empleados vengan a la empresa solo un día al semana y trabajen desde casa la mayor parte del tiempo.Esto no funcionará si desea competir con otras startups.
anfitrión: La situación temprana de Google es muy similar a Microsoft en ese momento …
Eric Schmidt:Sí.
En nuestra industria, hay un fenómeno común:Algunas compañías han ganado el mercado de una manera muy innovadora, dominando por completo un campo, pero al no hacer la transición a la siguiente etapa sin problemas.
Hay muchas situaciones de este tipo.Creo que los fundadores son importantes, y es un tema muy importante, están al frente de la empresa.Si bien los fundadores a menudo son difíciles de llevarse bien y exigiendo a sus empleados, también impulsan a la empresa.
Si bien es posible que no nos gusten algunos de los comportamientos personales de Elon, mire lo que hace en el trabajo.El día que cené con él, él seguía volando de un lado a otro.Estaba en Montana y él estaba volando a la reunión temprana de la mañana con Xai a las 10 en punto esa noche.
Cuando fui a Taiwán, sentí que diferentes lugares tenían diferentes culturas.¿Te imaginas dejar que un doctorado en los Estados Unidos haga este tipo de trabajo?Casi imposible.
Los resultados del trabajo son diferentes.La razón por la que soy tan dura por el trabajo es por el efecto de red de estos sistemas.El tiempo es muy crítico, y en la mayoría de las industrias, el tiempo no es tan importante, tienen suficiente tiempo.Coca-Cola y Pepsi siempre existirán, y la competencia entre los dos continuará, cambiando lentamente como glaciares.
Cuando trabajo con una empresa de telecomunicaciones, se tarda 18 meses en firmar un contrato de telecomunicaciones general.No creo que sea necesario para tanto tiempo, las cosas deben hacerse lo antes posible.Ahora estamos en la cima del crecimiento y las ganancias, y todavía necesitamos algunas ideas locas.
Por ejemplo, cuando Microsoft decidió trabajar con Operai, pensé que era una de las ideas más estúpidas.Era increíble que Microsoft entregó el liderazgo de IA a los equipos de Openi y Sam.Hoy, sin embargo, se están convirtiendo gradualmente en una de las compañías más valiosas, comparables a la competencia de Apple.Apple no tiene una buena solución para la IA, y parece que la estrategia de Microsoft ha funcionado.
3.La brecha en el modelo se está ampliando
Eric Schmidt: Acabas de preguntar, qué pasará después, cada seis meses, mis pensamientos fluctuarán.Ahora estamos en una fluctuación periódica de oscilación impar y incluso.A partir de ahora, la brecha entre los modelos de vanguardia, solo tres modelos ahora, y otros modelos parece estar ampliando.Hace seis meses, pensé que la brecha se estaba estrechando, así que invertí mucho dinero para algunas pequeñas empresas, pero ahora no estoy tan seguro.
Empecé a hablar con grandes empresas, y grandes empresas me dijeronNecesitan 10 mil millones, 20 mil millones, 50 mil millones o incluso 100 mil millones de fondos.
Anfitrión: El objetivo es de 100 mil millones, ¿verdad?
Eric Schmidt: Sí, es muy difícil.Sam Altman y yo somos buenos amigos, y él cree que podría tomar 300 mil millones o más.Le dije que había calculado el poder necesario.Fui a la Casa Blanca el viernes pasado y le dije abiertamente que necesitamos tener una buena relación con Canadá porque Canadá no solo es bueno, sino que también ayudó a inventar IA y que tiene muchos recursos de agua y electricidad.Y nuestro país no tiene suficiente electricidad para apoyar este desarrollo.
Otra opción es que los países árabes contribuyan.Personalmente, me gusta Arabia y he estado allí durante mucho tiempo.Pero no cumplirán con nuestras reglas de seguridad nacional, y Canadá y Estados Unidos pueden trabajar juntos.
anfitrión: Así es.Por lo tanto, estos centros de datos valen 100 mil millones y 300 mil millones,La electricidad se convertirá en un recurso escaso.
Eric Schmidt:Sí.Después de esta idea, si se invierten 300 mil millones en Nvidia, ¿sabe qué acciones comprar, ¿verdad?(Risas) Por supuesto, no recomiendo acciones.
anfitrión: Así es.Necesitaremos más chips, Intel está recibiendo mucho dinero del gobierno de los Estados Unidos, y AMD, todos están trabajando para construir fábricas de chips.
Eric Schmidt: Si hay un dispositivo que usa Chips Intel en el sitio, levante la mano (el oyente levanta la mano).Su monopolio parece haber terminado aquí.
anfitrión: Intel fue de hecho un monopolio.Y ahora es el monopolio de Nvidia.Entonces, ¿hay otras compañías que puedan hacer barreras técnicas como CUDA?Hace unos días hablé con otro emprendedor que cambiaría entre TPU y chips Nvidia en función de los recursos que podría obtener.
Eric Schmidt: Porque no tiene otra opción.Si tuviera fondos ilimitados, definitivamente elegiría la arquitectura B200 de NVIDIA hoy porque eso fue más rápido.No estoy sugiriendo nada, la competencia es, por supuesto, algo bueno.Discutí este asunto en detalle con Lisa Sue de AMD.Todavía están mejorando.
4.Experimentaremos una gran burbuja,Entonces el mercado se ajustará a sí mismo
Oyente: eres muy optimista sobre las perspectivas de AI.¿Qué crees que impulsa este progreso?¿Es más dinero?O más datos?¿O un avance tecnológico?
Eric Schmidt: Básicamente miro todos los proyectos, porque no puedo decir cuál puede tener éxito.Además, ahora hay muchos fondos conmigo.Creo que parte de la razón es que la inversión temprana ha ganado dinero. .No pueden notar la diferencia entre lo bueno y lo malo.La IA que entiendo es el tipo de sistema que realmente puede aprender, y creo que eso cuenta.
Además, ahora hay algunos nuevos algoritmos muy avanzados que ya no se limitan a la arquitectura del transformador.Tengo un amigo, que también es mi socio a largo plazo, que ha hecho una nueva arquitectura no transformadora.
Finalmente, se cree ampliamente en el mercado que el desarrollo de tecnologías inteligentes traerá grandes rendimientos.Por ejemplo, si invierte $ 50 mil millones en una empresa, definitivamente desea recuperar mucho dinero a través de la tecnología inteligente.Por lo tanto, podemos experimentar una gran burbuja de inversión y el mercado se ajustará a sí mismo.Esto siempre ha sido así en el pasado, y puede no ser una excepción ahora.
anfitrión: Usted mencionó antes que las compañías líderes se están acercando cada vez más.
Eric Schmidt: Sí, de hecho es el caso ahora.Hay una compañía llamada Mistral en Francia, y hacen un buen trabajo e invertí en ellos.Lanzaron una segunda edición del modelo, pero la tercera edición puede estar cerrada porque el costo es demasiado alto.Necesitan ingresos y ya no pueden proporcionar modelos de forma gratuita.
El debate entre el código abierto y la fuente cerrada es muy feroz en nuestra industria.Toda mi carrera personal se ha basado en la disposición de las personas para compartir software de código abierto.El trabajo técnico que hago es código abierto, y muchas de las tecnologías centrales de Google también son de código abierto.Pero ahora puedeDebido a que el costo de capital es demasiado alto, la forma en que el desarrollo del software puede sufrir cambios fundamentales.
Personalmente, creo que la productividad de los programadores de software al menos se duplicará.Ahora hay tres o cuatro compañías de software que trabajan duro para lograr este objetivo, y yo he invertido en estas compañías.Su objetivo es mejorar la eficiencia de los programadores de software.Una compañía muy interesante que conocí recientemente llamó Augment.Siempre pienso en programadores individuales, pero su objetivo es en realidad esos grandes equipos de software que pueden tener millones de líneas de código, pero nadie puede descubrir los detalles de ejecutar todo el código.Este problema es muy adecuado para resolver con IA.¿Pueden ganar dinero?Espero que pueda.
anfitrión: Entonces, todavía hay muchos problemas para discutir.
Audiencia: no creo que haya muchas discusiones sobre las arquitecturas no transformadoras, pero ahora han progresado más.
Eric Schmidt: No tengo una comprensión profunda de las matemáticas, y las matemáticas aquí son muy complicadas.Pero básicamente, usan diferentes métodos para hacer descenso de gradiente y multiplicación de matriz, que es más rápida y mejor.Transformers es una forma sistemática de realizar operaciones de multiplicación al mismo tiempo, por lo que lo entiendo.Es similar a esto, pero los principios matemáticos son diferentes.
Oyente: Usted es un ingeniero, y considerando las capacidades que estos modelos pueden tener en el futuro, ¿todavía necesitamos pasar tiempo aprendiendo programación?
Eric Schmidt: Es como si ya supieras cómo hablar inglés, ¿por qué aún necesitas seguir aprendiendo inglés?El aprendizaje siempre puede hacer que las personas dan un paso adelante.Tienes que entender cómo funcionan estos sistemas.
5.La computación distribuida no puede resolverloProblemas de potencia informática en AI
Oyente: Dos preguntas simples: Primero, ¿es el impacto económico de los grandes modelos de idiomas más lento que el impacto del mercado que esperaba al principio?En segundo lugar, ¿crees que la comunidad académica debería recibir subsidios de IA?¿O deberíamos cooperar con grandes empresas?
Eric Schmidt: He estado trabajando duro para construir un centro de datos para la universidad.Si fuera profesor en el departamento de informática aquí, estaría muy insatisfecho porque no podría desarrollar esos algoritmos con estudiantes graduados y me vi obligado a cooperar con esas grandes empresas.En mi opinión, estas compañías no están haciendo lo suficiente a este respecto.He hablado con algunos profesores y muchos de ellos tienen que pasar mucho tiempo esperando las cuotas de uso de Google Cloud.Este es un campo próspero, y la forma correcta de hacerlo es proporcionar recursos a la universidad, y estoy trabajando duro para promover esto.
En cuanto al impacto del mercado laboral que mencionó, básicamente creo que la educación universitaria y el trabajo relacionado de alta calificación deberían estar bien porque las personas trabajarán con estos sistemas.Creo que estos sistemas no son diferentes de la ola de tecnología anterior, y esos trabajos y trabajos peligrosos que no requieren juicio humano eventualmente serán reemplazados.
Oyente: ¿Alguna vez has estudiado entornos distribuidos?Le pregunté esto porque es difícil construir un clúster grande, pero el MacBook sigue siendo muy poderoso.Hay muchas máquinas pequeñas en todo el mundo.¿Crees que las ideas como Folding@Home se pueden usar para el entrenamiento?
Nota: «Folding@home» es un proyecto que utiliza recursos informáticos distribuidos globales, utilizando recursos inactivos de las computadoras de los participantes globales para realizar cálculos de plegamiento de proteínas.
Eric Schmidt: Los entornos distribuidos son de hecho un desafío.De hecho, no es fácil construir un clúster grande, pero cada MacBook tiene su propia potencia informática.Hay tantas máquinas pequeñas en todo el mundo, y la idea de unirlas tiene potencial.Esto se puede usar para la capacitación, pero todavía hay muchos detalles técnicos para resolver.
Hemos estudiado este problema en profundidad, y el principio de funcionamiento de estos algoritmos es el siguiente: tiene una matriz muy grande, que es básicamente multiplicación.Puedes imaginar que el proceso se repite.El rendimiento de estos sistemas depende completamente de la forma en que se transfieren los datos de la memoria a la CPU o GPU.De hecho, los chips de próxima generación de Nvidia han integrado estas funciones en un chip.Además, el proceso de embalaje es muy bien, y el chip y el empaque se completan en una sala limpia.Entonces, en la actualidad, las supercomputadoras y la transmisión de la luz, especialmente la interconexión entre la memoria, son los factores clave.Por lo tanto, no creo que sea posible lograr lo que dijiste a corto plazo.
Anfitrión: ¿Es posible separar el modelo de idioma grande?
Eric Schmidt: Para hacer esto, debes tener millones de tales modelos.Y la forma en que hace preguntas se volverá muy lenta.
6.En el futuro, es posible que no entendamos la IA.Pero necesitan ser conocidos
anfitrión: Quiero cambiar el tema y hablar de algo filosófico.El año pasado tú y Henry Kissinger y Daniel HuttenlocherEscriba un artículo juntos, explora la naturaleza del conocimiento y su evolución.También he hablado con otros sobre este tema recientemente.Su artículo dice que los modelos se están volviendo cada vez más complejos y difíciles de entender, para que ya no somos tan claros sobre sus mecanismos internos.
Feynman dijo una vez,«No puedo entender lo que no puedo crear.«He mencionado esta oración recientemente, pero en la actualidad, la gente parece estar creando algo que ni siquiera entienden.¿Significa esto que nuestra comprensión del conocimiento está cambiando?¿Necesitamos comenzar a aceptar las conclusiones de estos modelos, incluso si no pueden dar explicaciones claras?
Eric Schmidt: Déjame darte un ejemplo, esto es un poco como un hombre joven.Si tienes adolescentes en tu familia, sabes que son humanos, pero no siempre sabes lo que piensan.Sin embargo, nuestra sociedad ha aprendido a adaptarse a su existencia y sabe que eventualmente maduran.Entonces, podemos tener algún sistema de conocimiento,No podemos entender completamente, pero podemos entender sus límites.Sabemos lo que pueden hacer y lo que no pueden hacer.Este puede ser el mejor resultado que podamos esperar.
Anfitrión: ¿Crees que podemos comprender estas restricciones?
Eric Schmidt: Creo que podemos manejarlo.El pequeño equipo que discutimos cada semana siente que podemos usar ese tipo de tecnología de IA de confrontación en el futuro.Imagine que en el futuro, habrá empresas que se especializarán en esto. AI.Toda la industria participará en tal IA contra la IA, especialmente aquellas partes que no entendemos muy bien.Creo que esto es bastante confiable.Stanford también puede considerar esta dirección.Si un estudiante graduado está interesado en cómo descifrar estos grandes modelos y estudiar cómo funcionan, es un buen punto de habilidad para ellos.Así que creo que estas dos cosas mejorarán juntas.
Audiencia: Mencionó los comentarios relacionados con la IA de confrontación.¿Cuáles son los principales desafíos para que AI realmente haga lo que queremos?
Eric Schmidt: De hecho, es necesario mejorar los modelos de mayor rendimiento.Debe asumir que a medida que avanza la tecnología, la alucinación de la IA disminuirá, aunque no digo que desaparezca por completo.También debe asumir que hay una manera de verificar el efecto, por lo que necesitamos saber si los resultados han cumplido con las expectativas.
Por ejemplo, el ejemplo de los competidores de Tiktok que acabo de mencionar.Por cierto, no estoy sugiriendo que robes ilegalmente la música de todos.Si eres emprendedor en Silicon Valley, espero que todos se conviertan en tales emprendedores,Si su producto se vuelve popular, contratará una gran cantidad de abogados para ayudarlo a resolver el problema;.Pero no tomes mis palabras en serio.
Silicon Valley realizará estas pruebas y resolverá estos problemas.Así es como solemos tratarlo.Así que creo que en el futuro veremos más y más sistemas de alto rendimiento, y las pruebas se volverán cada vez más refinadas, y eventualmente habrá pruebas adversas para garantizar que la IA esté dentro de un rango controlable.Técnicamente, lo llamamos «razonamiento de pensamiento en cadena».Se espera que en los próximos años, pueda generar 1000 pasos de razonamiento en cadena, al igual que cocinar por recetas.Puede seguir la receta paso a paso y luego verificar que el resultado final sea correcto.Así es como funciona el sistema.A menos que estés jugando el juego, por supuesto.
7.La información falsa parece insoluble a corto plazo
Oyentes: ¿Cómo evitar que la IA cree información falsa en opinión pública, especialmente en las próximas elecciones?¿Hay alguna solución a corto y largo plazo?
Eric Schmidt: En las próximas elecciones, e incluso a nivel mundial, la mayoría de la información falsa se extenderá a través de las redes sociales, y las compañías de redes sociales no tienen suficiente poder para administrar esta información en este momento.Si miras a Tiktok, algunas personas critican a Tiktok por estar sesgado hacia algún tipo de información falsa en lugar de otra.Siento que estamos en un desastre a este respecto y necesitamos aprender a pensar críticamente.Puede ser un desafío difícil, pero solo alguien te dice que algo no significa que sea cierto.
Oyente: ¿Irán al otro extremo?¿Nadie cree la verdad?Algunas personas resumen este fenómeno como una «crisis epistemológica».
Eric Schmidt: Creo que ahora nos enfrentamos a una crisis de confianza.Creo que la mayor amenaza para la sociedad es la información falsa, porque nos volveremos cada vez más poderosos para crear información falsa.El mayor problema que encontré cuando administraba YouTube era que la gente subiría videos falsos e incluso dejaría que alguien muriera.
Nota: YouTube no permite ningún contenido que fomente actividades peligrosas o ilegales que puedan dar lugar a lesiones corporales graves o muerte.
Fue realmente doloroso tratar de resolver estos problemas, y no había una IA generativa en ese momento.Entonces, para ser honesto, no tengo una solución particularmente buena.
anfitrión: Los medios técnicos no son una solución universal, pero hay una manera que parece ser capaz de aliviar este problema, que es la autenticación de clave pública.Por ejemplo, cuando Biden subió al escenario para dar un discurso, ¿por qué no puede agregar firmas digitales a lo que dijo como lo hizo SSL?O cuando las celebridades o figuras públicas hablan, ¿pueden tener su propia clave pública?Al igual que cuando le di a Amazon la información de mi tarjeta de crédito, sabía que el destinatario era de hecho Amazon.
Eric Schmidt: Esta es de hecho una forma de autenticación de clave pública, junto con otros métodos de verificación, para garantizar que conozcamos la fuente de la información.
He escrito un artículo con otros, y lo que apoyo es su argumento en este momento, pero desafortunadamente, este documento no tiene ningún efecto.Entonces, tal vez el sistema no esté organizado para resolver este problema como dijiste.
En general, los CEO tienen como objetivo maximizar los ingresos, y para hacer esto, deben buscar la máxima participación del usuario.Maximizar la participación significa encender más enojo.El algoritmo dará prioridad a impulsar contenido escandaloso porque generará más ingresos.Por lo tanto, existe una tendencia a tender al contenido extremo en su conjunto, y esto no se divide en campamentos.Este es un problema que debe resolverse en nuestra sociedad.
Hemos hablado de la solución de Tiktok en privado antes.Cuando era niño, había una regla llamada «regla de tiempo igual».Debido a que Tiktok en realidad no son las redes sociales, es más como la televisión, y hay programadores que controlan contenido.Los datos muestran que los usuarios de Tiktok en los Estados Unidos pasan un promedio de 90 minutos viendo 200 videos al día, lo cual es bastante grande.Es posible que el gobierno no establezca reglas de igual tiempo, pero es necesaria alguna forma de equilibrio.
8.Big Model es una competencia en la que solo unos pocos países son elegibles para participar
Oyente: En términos de seguridad nacional o intereses, ¿qué papel crees que la IA desempeñará en la competencia con China?
Eric Schmidt: Sirví como presidente del comité de IA, que examinó este tema en detalle.El informe tiene 752 páginas, puede consultarlo.Permítanme resumir brevemente: ahora estamos liderando, necesitamos continuar liderando, y necesitamos mucho dinero para lograr esto.
La situación general es que si los modelos de IA de vanguardia continúan desarrollándose y algunos modelos de código abierto están involucrados, solo unos pocos países son elegibles para participar.Esos países con mucho dinero, un sistema educativo sólido y están decididos a ganar.Estados Unidos es uno de ellos, y también lo es China.Tal vez hay otros países.Pero es cierto que en su vida, la competencia en el campo de conocimiento entre Estados Unidos y China será la mayor confrontación.
Básicamente, el gobierno de los Estados Unidos ha prohibido la exportación de chips de Nvidia a China, y aunque no lo permiten, lo hacen.Estamos unos 10 años por delante de China en tecnología de chips.También estamos liderando el camino en la tecnología de litografía por unos 10 años.Supongo que podemos liderar unos años más en el futuro.El proyecto de ley de chip fue una decisión de la administración Trump y fue aprobado por la administración Biden.
Anfitrión: ¿Crees que el gobierno y el Congreso actuales escuchan tus sugerencias?¿Crees que harán una inversión tan grande?Además de la Ley de chips, ¿se continuarán construyendo sistemas de IA a gran escala?
Eric Schmidt: Como saben, dirigí un grupo informal, que no es un grupo oficial, y este grupo incluye a todos los participantes comunes del sector de IA.Las recomendaciones hechas por estos participantes se han convertido en la base de las decisiones en el campo de IA de la administración Biden, un proyecto de ley que puede ser la directiva presidencial más larga de la historia.
Nota: El presidente Biden de los Estados Unidos emitió la orden ejecutiva sobre abordar las inversiones de los Estados Unidos en ciertas tecnologías de seguridad nacional el 9 de agosto del año pasado y productos en países de preocupación
anfitrión: Usted está avanzando un proyecto de investigación competitivo especial.
Eric Schmidt: Esta es la factura de implementación real de la oficina ejecutiva.Están ocupados poniendo en los detalles y han hecho un buen trabajo hasta ahora.Por ejemplo, el año pasado discutimos una pregunta: cómo detectar peligros potenciales en el sistema.Es posible que este sistema haya aprendido algunas cosas peligrosas, pero no sabes qué preguntar.En otras palabras, este es un problema central.El sistema ha aprendido algo malo, pero no le dirá lo que aprendió, y no sabe cómo hacer preguntas.Aquí hay muchas amenazas, ya que puede haber aprendido cómo mezclar productos químicos que no comprende.Así que ahora muchas personas están trabajando duro para resolver este problema.
Finalmente, establecemos un umbral en el memorándum llamado operación de punto flotante en la potencia de 10^26, que es una medida de potencia informática.Cuando se excede este umbral, debe informar su comportamiento al gobierno.Esto es parte de la regla, la UE establece el umbral en el poder 25 de 10, pero la diferencia no es grande.Creo que estas diferencias técnicas eventualmente desaparecerán.Por lo tanto, es posible que no podamos evitar completamente las amenazas traídas por estas nuevas tecnologías.
anfitrión: Escuché que Operai ha tenido que hacer esto, en parte porque el consumo de energía es demasiado alto y ningún lugar puede soportar todos los cálculos solo.
9.AI es un juego para personas ricas.Cuanto más ricos son más ricos
Oyente: El New York Times demandó a OpenAi por modelos de entrenamiento con sus obras.¿Qué crees que esto significa para el uso de datos?
Eric Schmidt: Tengo mucha experiencia en los derechos de autor de la música.En la década de 1960, hubo una serie de demandas que eventualmente llevaron a un acuerdo de que cada vez que se reproduzca su canción, sin importar si el oyente sabía quién era, obtendría una cierta regalía y el dinero se depositaría en su banco. Cuenta.Supongo que la situación será similar en el futuro, con muchas demandas y, finalmente, se alcanza algún tipo de acuerdo que requiere que se pague un cierto porcentaje de ingresos al usar estos trabajos.Puede ver los ejemplos de ASCAP (Asociación de Compositores, Escritores y Distribuidores) y BMI (Broadcast Music, Inc., una organización estadounidense de derechos de rendimiento), y aunque parece un poco desactualizado, creo que ese será el caso en el fin.
Oyente: Parece que hay varias compañías que dominan y continuarán en el campo de la inteligencia artificial, y estas compañías parecen ser el foco de todas las leyes antimonopolio.¿Qué opinas de estas dos tendencias?¿Crees que los reguladores dividirán a estas empresas?¿Qué impacto tendrá esto en la industria?
Eric Schmidt: En mi carrera, he presionado para dividir Microsoft, pero no se ha dividido.También traté de evitar que Google se dividiera, y tampoco se dividió.Entonces, en mi opinión, mientras estas compañías eviten convertirse en gigantes de monopolio como John D. Rockefeller (fundador de Standard Oil), la tendencia no es una división.Este es el origen de la ley antimonopolio.
No creo que el gobierno tome medidas.La razón por la que ve que estas grandes empresas dominan el mercado es que solo tienen los fondos para construir estos centros de datos.Así que mis amigos Reed Hastings (Netflix y CEO) y Elon Musk lo están haciendo.
Por lo tanto, los ricos se enriquecen, y los pobres solo pueden hacer todo lo posible.Este es el hecho de que este es un juego para el país rico, que requiere un gran capital, una gran cantidad de talentos técnicos y un fuerte apoyo gubernamental.Hay muchos otros países con varios problemas, no tienen estos recursos, por lo que tienen que trabajar con otros países.
Oyente: Has pasado mucho tiempo ayudando a los jóvenes a crear riqueza y estás muy entusiasmado con esto.¿Tiene alguna sugerencia para esta etapa de su carrera y futuro para los estudiantes aquí?
Eric Schmidt: Estoy muy impresionado por su capacidad de mostrar rápidamente nuevas ideas.En uno de los hackatones en los que estuve involucrado, el equipo ganador tenía la tarea de hacer que el dron volara entre las dos torres.Completaron esta misión en un espacio virtual de drones, permitiendo que el dron entendiera el significado de «entre …», escribió código en Python, y permitió que el dron pasara por la torre en el simulador.Si usted es un programador profesional que hace esto, puede llevar una o dos semanas.
Lo que quiero decir esLa capacidad de hacer prototipos rápidamente es realmente importante..Como empresario, uno de los problemas es que todo sucede muy rápidamente.Ahora, si no puede prototipo con varias herramientas en un día, debe pensarlo porque sus competidores pueden hacerlo.
Entonces, mi consejo es que cuando comienza a pensar en comenzar un negocio, es bueno escribir un plan de negocios, y debe hacer que la computadora lo ayude a escribir un plan de negocios. Prototipos.Porque seguro, alguien está haciendo lo mismo en otra compañía, otra universidad o un lugar que nunca has estado.
