Sam Altman 20 000 mots sur l’avenir de l’IA: la mission de GPT-5 et Openai

Auteur: City of Sky · Lord, Source: Web3 City of Sky

hôte:

J’ai rencontré Sam Altman, notre prochain invité, il y a environ 20 ans, alors qu’il travaillait sur une application mobile locale appelée Loop.Nous avons tous le soutien de Sequoia Capital, et en fait, nous sommes tous les premiers scouts de Sequoia Capital.

Il a investi dans Stripe, une entreprise de fintech de manière inconnue, et j’ai investi dans Uber.Dans cette petite expérience …

Sam:

Avez-vous investi dans Uber?Je n’en ai jamais entendu parler auparavant.

Oui, je pense que oui.

Vous devriez écrire un livre, Jacob.

Le petit fonds expérimental que Sam et moi avons participé en tant que Boy Scouts était le fonds avec le rendement le plus élevé du capital de Sequoia.J’ai entendu dire que des millions de dollars se sont transformés en plus de 200 millions de dollars.Il a également travaillé pour Y Combinator pendant un certain temps et a été président de 2014 à 2019.En 2016, il a cofondé OpenAI avec d’autres, dans le but de garantir que l’intelligence artificielle universelle profite à toute l’humanité.En 2019, il a quitté YC et a rejoint OpenAI à plein temps en tant que PDG.

Le 30 novembre 2022, les choses sont devenues très intéressantes.Ce jour était le jour où OpenAI a lancé Chatgpt.En janvier 2023, Microsoft a investi 10 milliards de dollars.En novembre 2023, Sam a été licencié par Openai au cours d’une période folle de cinq jours.Tout le monde doit travailler chez Microsoft.Un tas d’émojis en forme de cœur sont devenus viraux sur X et Twitter, et les gens ont commencé à spéculer que l’équipe avait atteint une IA universelle.La fin du monde arrive.Soudain, quelques jours plus tard, il est retourné au poste de PDG d’Openai.

Selon les rapports, en février 2023, Sam cherche à collecter 7 billions de dollars pour un projet de puce AI.Il a déjà été signalé que Sam cherchait à lever 1 milliard de dollars auprès de Masayoshi San pour créer un tueur d’iPhone avec le cofondateur d’iPhone Johnny Ive.

Dans le même temps, Chatgpt va de mieux en mieux et devient un nom familier.Cela a eu un impact énorme sur la façon dont nous travaillons et comment nous travaillons.Il serait le produit le plus rapide de l’histoire pour atteindre 100 millions d’utilisateurs en seulement deux mois.

Regardez la croissance folle des revenus d’Openai.Leur ARR aurait atteint 2 milliards de dollars l’année dernière.Bienvenue sur le podcast polyvalent,

J’ai observé que toute l’industrie attend nerveusement la libération du GPT-5.Pour autant que je comprenne, il peut être lancé cet été, mais cette fenêtre de temps est assez large.Pouvez-vous le définir pour nous?

Sam:

Nous passerons un peu de temps à publier ce nouveau modèle majeur.Je crois que ce sera génial quand nous le ferons.Nous réfléchirons attentivement à la façon de procéder.Il pourrait être publié d’une manière différente de celle que nous avons publié le modèle précédent.De plus, je ne sais même pas si nous l’appellerons GPT-5.

Je voudrais dire que depuis que nous avons sorti le GPT-4, surtout au cours des derniers mois, beaucoup de gens ont remarqué ses excellentes performances.Je pense que cela révèle mieux l’essence du monde.Je pense que c’est à la fois une meilleure direction technologique et plus facile à adapter la société.

hôte:

Alors, cela signifie-t-il que nous n’aurons pas de longs cycles d’entraînement, mais que nous continuerons à recycler ou à entraîner des sous-modèles, Sam?Vous pouvez peut-être partager avec nous quels changements peuvent se produire dans l’architecture des grands modèles à l’avenir.

Sam:

Un scénario que vous pouvez imaginer est que nous formons toujours un modèle.Cela semble être une approche raisonnable pour moi.

Nous discutons de différentes façons de publier cette fois.Envisagez-vous d’abord de publier aux utilisateurs payants ou de ralentir la version pour garder l’équipe rouge nerveuse car le risque est trop élevé maintenant.En fait, vous avez tellement d’utilisateurs rémunérés et tout le monde suit chaque étape de votre vie.Vous devez penser plus attentivement maintenant, non?

Oui, le GPT-4 n’est toujours ouvert qu’aux utilisateurs payants pour le moment, mais une chose que nous voulons vraiment faire est de déterminer comment rendre les utilisateurs gratuits plus avancés disponibles.Je pense que c’est une partie très importante de notre mission.Notre objectif est de construire des outils d’IA et de les rendre largement disponibles, qu’ils soient gratuits ou moins chers, quel que soit, afin que les gens puissent les utiliser pour créer l’avenir, plutôt que de laisser l’AGI magique dans le ciel créer le futur et le verser sur nous.Cela semble être une meilleure route et plus inspirante.Je crois fermement que les choses évoluent en effet dans cette direction.Alors je suis vraiment désolé,Nous n’avons pas compris comment amener les utilisateurs gratuits à utiliser la technologie de niveau GPT-4.C’est ce que nous voulons vraiment faire.Je dois admettre que c’est très cher.

Sam, je pense que deux grands facteurs dont les gens discutent souvent sont les coûts et la latence potentiels, ce qui limite quelque peu le taux des applications de tueurs.Ensuite, je pense que le deuxième facteur est la capacité à long terme que les gens construisent dans le monde open source et le monde de la source fermée.Je pense que la partie fanatique de ce domaine est l’enthousiasme de sa communauté open source.Un exemple incroyable est que nous avons fait une démo très folle pour Devon, qui était il y a cinq ou six semaines et que cela a très bien fonctionné.Ensuite, certains jeunes ont publié le projet sous les licences ouvertes du MIT, comme Opendevon.Il a très bien fonctionné et était presque comparable à d’autres projets de source fermée.Alors peut-être que nous pouvons commencer par cette question, c’est-à-dire quelles sont les décisions commerciales qui gardent ces modèles à source fermée?Selon vous, que vous développera au cours des prochaines années?

Pour la première partie de votre question, de votre vitesse et de votre coût, celles-ci sont très importantes pour nous.Je ne veux pas donner un calendrier lorsque nous pouvons réduire considérablement le retard, car la recherche est difficile, mais je pense que nous pouvons le faire.Nous espérons réduire considérablement la latence et réduire considérablement les coûts.Je crois que cela se produira.Nous en sommes encore aux premiers stades du développement scientifique et ne pouvons pas comprendre comment cela fonctionne.De plus, nous avons tous les vents de queue d’ingénierie.Je ne sais donc pas quand nous obtiendrons une intelligence assez bon marché pour être mesurable, et si vite que nous et tout le monde le pensons instantanément.Mais je crois que nous pouvons atteindre un niveau d’intelligence assez élevé.Ceci est important pour nous, et c’est important pour l’utilisateur, et cela débloquera beaucoup de choses.

En ce qui concerne l’open source et la source fermée, je pense que les deux ont leurs avantages.Je pense que nous avons ouvert certains projets, et nous ouvrirons plus de projets à l’avenir.Mais en réalité, notre mission est de progresser vers l’intelligence artificielle et de trouver des moyens de distribuer largement ses avantages.Nous avons une stratégie qui semble résonner avec de nombreuses personnes.De toute évidence, ce n’est pas pour tout le monde.Et c’est un énorme écosystème.Il y aura également des modèles open source et des personnes construites de cette manière.

Un domaine que j’ai personnellement un intérêt particulier pour l’open source est que je veux un bon modèle open source qui peut fonctionner sur mon téléphone.Je pense que le monde n’a pas assez de technologie pour développer une bonne version.Mais cela semble être une chose très importante à faire à un moment donné.

Voulez-vous cela?Voulez-vous le publier?

Je ne sais pas si nous le voulons, ou si quelqu’un le fera.

Et Llama 3?

Llama 3 court sur votre téléphone?

Je pense qu’il peut y avoir 7 milliards de versions paramètres (téléphone mobile).

Oui.Je ne sais pas si cela convient à un téléphone, mais …

Cela devrait convenir à un téléphone portable.

Mais je ne sais pas, je ne sais pas si cela vous convient, je ne l’ai pas encore joué.Je ne sais pas si cela suffit pour accomplir ce que je considère ici.

Donc, quand le Llama 3 a été libéré, je pense que le plus gros point à retenir pour beaucoup de gens était, wow, ils ont rattrapé le GPT-4.Je ne pense pas que ce soit égal à tous égards, mais dans l’ensemble, c’est très, très proche.Je pense que le problème est que vous avez publié il y a 4 il n’y a pas longtemps, vous développez 5 ou effectuez plus de mises à niveau vers 4.Je veux entendre votre point de vue sur la façon de rester en avance dans un environnement open source, qu’en pensez-vous?C’est généralement une tâche très difficile, qu’en pensez-vous?

Notre objectif n’est pas de créer l’ensemble de poids le plus intelligent que nous puissions faire, mais de créer une couche d’intelligence utile à utiliser.Le modèle n’en est qu’une partie.Je crois que nous resterons en avance sur la ligne de front à cet égard, et j’espère que nous pourrons être loin sur le reste du monde à cet égard.Mais il y a beaucoup d’autres travaux dans l’ensemble du système, pas seulement des poids de modèle.Nous devons créer une valeur durable de manière traditionnelle, comme toute autre entreprise.Nous devons trouver un excellent produit et raison de nous y tenir et de le livrer à un bon prix.

Lorsque vous démarrez cette organisation, ce que vous dites est ou une partie de la discussion est qu’elle est trop importante pour une entreprise et, par conséquent, elle doit être ouverte.Ensuite, il se tourne vers, personne ne peut voir qu’il est trop dangereux, nous devons le verrouiller parce que vous avez des inquiétudes à ce sujet.Je veux savoir, est-ce vrai?Parce que le côté cynique dirait qu’il s’agit d’une décision capitaliste.Ensuite, j’étais curieux de savoir quelle était la décision de commencer par l’ouverture.Le monde a besoin de voir cela.Fermer est vraiment important.Seulement nous pouvons le voir.Alors, comment êtes-vous arrivé à cette conclusion?

Une partie de la raison pour laquelle nous avons publié Chatgpt est parce que nous voulons que le monde entier voie cela.Nous avons essayé de dire aux gens que l’IA est vraiment importante.Si vous retournez en octobre 2022, il n’y avait pas tant de gens qui pensaient que l’IA serait si importante, ou cela s’est produit.Une grande partie de ce que nous essayons de faire est de mettre la technologie entre les mains des gens.Maintenant, encore une fois, il existe différentes façons de le faire.Je pense qu’il y a en effet un rôle important, c’est-à-dire, par exemple, c’est la façon de la mettre en œuvre.

Mais en fait, nous avons tellement de gens qui utilisent la version gratuite de Chatgpt, nous ne diffusons pas de publicités, et nous n’essaierons pas d’en faire de l’argent.Nous venons de le déployer parce que nous voulions que les gens aient ces outils.Je pense que cela fait beaucoup de travail, offre beaucoup de valeur, apprend aux gens à pêcher et fait également réfléchir le monde à ce qui se passe ici.Maintenant, nous n’avons toujours pas trouvé toutes les réponses.Nous sommes comme tout le monde, tâtonner en avant.Je pense que nous changeons notre stratégie plusieurs fois alors que nous apprenons de nouvelles choses.

Lorsque nous avons commencé Openai, nous ne savions vraiment pas comment les choses se passaient, nous ferions des modèles linguistiques, nous préparerions des produits.Je me souviens clairement du premier jour, et nous étions comme, ok, maintenant nous sommes tous ici.Il est difficile de préparer tout cela.Mais que se passera-t-il maintenant?Peut-être que nous devrions écrire des papiers.Peut-être que nous devrions nous soutenir sur le tableau blanc.Nous avons travaillé dur pour comprendre la prochaine étape, quelle est la prochaine étape et quelle est la prochaine étape.Je pense que nous continuerons à le faire.

Puis-je le confirmer à nouveau pour m’assurer que je ne l’entends pas mal?Je comprends votre point de vue selon lequel il s’agit de l’open source ou de la source fermée, tous ces modèles, quelles que soient les décisions commerciales que vous prenez, améliorera progressivement leur précision.Toutes les entreprises n’ont pas assez de capital, mais supposons qu’il y ait quatre à cinq, comme Meta, Google, Microsoft, etc., ou il peut y avoir une startup.Ces sociétés opèrent toutes sur un réseau ouvert.Ensuite, bientôt, la précision ou la valeur de ces modèles peut être transférée à ces sources de données de formation propriétaires que vous pouvez ou non obtenir, ou d’autres peuvent obtenir et que vous ne pouvez pas obtenir.

Pensez-vous que c’est la tendance des choses?L’ouverture du réseau fait que tout le monde atteint un certain seuil, puis il devient une course aux armements pour les données?

Je ne pense pas.Je crois fermement que cela ne se transformera pas en une course aux armements pour les données, car lorsque le modèle devient suffisamment intelligent, il ne devrait pas être d’obtenir plus de données, du moins pas les données utilisées pour la formation.Les données peuvent être importantes car elle a sa valeur.L’une des choses les plus importantes que j’ai apprises de tout cela est qu’il est difficile de faire des prédictions confiantes sur ce qui se passera au cours des prochaines années, donc je ne veux pas l’essayer maintenant.Ce que je veux dire, c’est que je m’attends à ce que de nombreux modèles très compétents apparaissent dans le monde.J’ai l’impression que nous sommes simplement tombés sur un nouveau fait naturel ou scientifique, ou quelque chose que vous pourriez appeler cela un fait que nous pourrions créer.Je ne pense pas que ce soit littéral, mais c’est comme un point spirituel.L’intelligence n’est que cette propriété soudaine de la matière, qui est comme des règles physiques ou quelque chose.Les gens le comprendront donc.Mais il y aura toutes ces différentes façons de concevoir le système.Les gens feront différents choix et proposeront de nouvelles idées.Je suis sûr que comme toute autre industrie, je m’attends à ce qu’il y ait plusieurs approches et différentes personnes aiment différentes approches.Certaines personnes aiment les iPhones, certaines personnes aiment les téléphones Android.Je pense que ce sera efficace.

Revenons à la première partie et discutons uniquement du coût et de la vitesse.Vous tous, le débit Nvidia est un bit à un bit limité, et je pense que vous et la plupart d’entre vous avez annoncé la capacité que vous pouvez obtenir, car c’est la capacité maximale qu’ils peuvent produire.Que faut-il se passer sur le substrat pour réduire vraiment les coûts informatiques, accélérer l’informatique et obtenir plus d’énergie?Comment aidez-vous l’industrie à résoudre ces problèmes?

Nous ferons certainement d’énormes progrès dans les algorithmes.Je ne veux pas sous-estimer cela.Je suis très intéressé par les chips et l’énergie.Mais si nous pouvons doubler l’efficacité du modèle de la même qualité, il serait équivalent à doubler notre puissance de calcul.Je pense qu’il y a beaucoup de travail à faire là-bas.J’espère que nous pourrons vraiment voir ces résultats.En plus de cela, toute la chaîne d’approvisionnement est très complexe.La capacité de production d’une usine logique.Combien de HBM le monde peut-il produire?Vous pouvez rapidement obtenir une licence, verser du béton, construire un centre de données, puis organiser les gens pour connecter toutes les lignes.Enfin, il y a de l’énergie, qui est un énorme goulot d’étranglement.Mais je pense que le monde fera une différence lorsqu’il aura une si grande valeur pour l’humanité.Nous travaillerons pour que cela se produise plus rapidement.La possibilité existe, et je ne peux pas donner une probabilité spécifique, mais je crois, comme vous l’avez dit, c’est une énorme percée fondamentale.Nous avons déjà des calculs plus efficaces, cependant, je n’aime pas trop en compter et je ne veux pas passer trop de temps à y penser.

Du côté de l’appareil, vous avez mentionné des modèles qui peuvent être installés sur votre téléphone.De toute évidence, que ce soit LLM ou SLM, etc., je crois que vous envisagez ce problème.Mais l’appareil lui-même changera-t-il?Doit-il être aussi cher qu’un iPhone?

Je suis très intéressé par cela.J’aime les nouvelles formes d’informatique, et chaque progrès technologique majeur semble apporter quelque chose de nouveau.Le niveau d’excellence du téléphone est incroyable, donc je pense que la barrière ici est très élevée.Je pense personnellement que l’iPhone est le plus grand produit technologique de l’histoire humaine, et c’est vraiment un excellent produit.

Alors, quelle sera la prochaine?

Je ne sais pas.Ce serait une bonne chose d’aller au-delà, mais je pense que la barrière est très élevée.

J’ai travaillé avec Johnny Ivy et nous avons parlé de diverses idées, mais je ne sais pas si le nouvel appareil doit être plus complexe ou doit être juste moins cher et plus simple?Presque tout le monde est prêt à payer ses téléphones, donc si vous pouvez faire un appareil moins cher, je pense que les obstacles au transport d’un deuxième équipement ou à l’utilisation d’un deuxième équipement sont assez élevés.Donc, je pense, étant donné que nous sommes tous prêts à payer nos téléphones, ou la plupart d’entre nous sont prêts, je ne pense pas que ce soit la réponse au problème.

Alors, quelles sont les différences dans la réponse?

Y a-t-il une puce spécialisée qui peut fonctionner sur un téléphone et peut bien conduire un modèle d’IA de la taille d’un téléphone?

Il peut y en avoir, mais les fabricants de téléphones le feront certainement, et cela ne nécessite pas de nouveaux appareils.Je pense que vous devez trouver des paradigmes d’interaction vraiment différents que la technologie peut réaliser.Si je savais ce que c’était, je serais heureux de commencer à les rechercher maintenant.

Vous pouvez maintenant utiliser la voix dans l’application.En fait, j’ai défini le bouton d’action sur mon téléphone pour aller directement à l’application vocale de Chatgpt, que j’utilise avec mes enfants et qu’ils aiment parler.Il a des problèmes de latence, mais c’est vraiment génial.

Nous ferons mieux.Je pense que la voix est le soupçon de la prochaine chose.Par exemple, si vous pouvez rendre les interactions vocales très bonnes, cela ressemble à une manière différente d’utiliser un ordinateur.

Cependant, comme le problème que nous avons déjà rencontré, comme, pourquoi ne répond-il pas?Et, c’est comme CB, comme encore et encore.C’est vraiment ennuyeux à utiliser, mais c’est aussi génial quand cela vous donne la bonne réponse.

Nous travaillons sur ce problème.Maintenant, il est encombrant et lent et ne se sent pas trop lisse, irréel ou contre nature.Nous allons tout améliorer.

Qu’en est-il de la vision par ordinateur?Vous pouvez combiner des données visuelles ou vidéo avec des données vocales.

Aujourd’hui, l’IA a pu comprendre ce qui se passe autour de vous.Vous pouvez demander à Chatgpt comme vous le feriez avec un appareil multimodal, par exemple: « Qu’est-ce que je regarde? »C’est évidemment un autre indice.

Cependant, que les gens choisissent de porter des lunettes ou d’utiliser une sorte d’appareil en cas de besoin, cela peut provoquer de nombreux problèmes interpersonnels sociaux, et le port de dispositifs informatiques peut devenir très compliqué.

Nous l’avons vu dans Google Glass Use.Les gens peuvent être troublés lors de l’exécution de tâches.J’ai oublié des situations spécifiques.

Si l’IA est partout, par exemple, sur les téléphones des gens, quelles applications peuvent-elles débloquer?Vous sentez-vous de cette façon?Que voulez-vous voir?

Je suppose que tout ce dont j’ai besoin est un appareil de friction toujours en ligne et ultra-bas avec lequel je peux interagir via la voix ou le texte, ou idéalement d’autres façons.Il a juste besoin de savoir ce que je veux et il y a une présence constante qui m’aide tout au long de la journée.Il a autant d’informations générales que possible, comme le plus grand assistant au monde.C’est cette existence qui me rend de mieux en mieux.

Lorsque vous entendez des gens parler de l’avenir de l’intelligence artificielle, ils peuvent imaginer deux façons différentes, bien que cela ne semble pas très différent.Mais je pense que dans la pratique, nous serons très différents lors de la conception de systèmes.Je veux une personne qui s’étend, comme un fantôme ou un autre, ou celle qui appartient vraiment à m’appartiale, agit en mon nom, répond aux e-mails et n’a même pas besoin de m’en parler.C’est un peu comme moi, devenant de plus en plus comme moi.D’un autre côté, je veux un bon membre du personnel supérieur.Cela pourrait très bien me connaître et je pourrais le déléguer.Vous pouvez accéder à mon e-mail et je vous parlerai des restrictions.Mais je pense que c’est une entité distincte.Je préfère personnellement la façon d’être des entités indépendantes et je pense que c’est là que nous allons.

Donc, dans ce sens, ce n’est pas vous, mais un superviseur adjoint de prêt à l’emploi, toujours super et super compétent.

D’une certaine manière, c’est comme un agent, cela fonctionne en votre nom, sait ce que vous voulez, prédit ce que vous voulez, et c’est ainsi que je comprends ce que vous dites.

Je pense qu’il y aura un comportement d’agent, mais il y a une différence entre les cadres supérieurs et les agents.

Je le veux, et je pense que la seule chose que j’aime chez les cadres supérieurs, c’est qu’ils me réfuteront.Ils ne font parfois pas ce que j’ai demandé, ou parfois ils disent, je peux le faire si vous le souhaitez.Mais si je le fais, je pense que ce qui suit se produira.Et puis ceci, alors ça.

Êtes-vous vraiment sûr?

Je veux absolument cette atmosphère, pas seulement que je lui donne une tâche, elle le fait aveuglément.Il peut raisonner et réfuter.Il est capable de raisonner, et sa relation avec moi est comme la relation que je m’attends à construire lorsque je travaille avec une personne vraiment capable, ce qui est différent des flatteurs.

En effet, si nous avions un outil comme Jarvis qui avait des capacités de raisonnement, cela pourrait avoir un impact sur bon nombre des interfaces de produit très précieuses que nous utilisons aujourd’hui.Prenez des exemples Instacart, Uber et Doordash, ces services ne sont pas destinés à être des pipelines, mais fournissent un ensemble d’API à un groupe d’agents intelligents omniprésents qui représentent 8 milliards de personnes travaillant dans le monde.Donc, ce que nous devons penser, c’est comment nous devons changer notre compréhension du fonctionnement des applications, toute l’infrastructure de l’expérience, pour s’adapter à ce nouveau monde où vous interagissez avec le monde de manière proxy?

Je suis personnellement très intéressé à concevoir un monde où les humains et l’intelligence artificielle peuvent utiliser.J’aime l’interprétabilité, la maîtrise du transfert et la capacité que nous pouvons fournir des commentaires.Par exemple, Doordash peut exposer certaines API à mes futurs assistants d’IA pour lui permettre de passer des commandes, etc.Je peux tenir mon téléphone et dire: « D’accord, assistant AI, veuillez passer cette commande sur Doordash. » Là où les humains et l’IA peuvent utiliser la même chose, je pense que c’est un concept intéressant.

Pour la même raison, je suis plus intéressé par les robots humanoïdes que les robots d’autres formes.Ce monde est conçu pour l’humanité et je pense que nous devrions le garder ainsi.Partager l’interface est une bonne idée.

Vous verrez donc que la voix, le chat et d’autres modes remplacent l’application.Il vous suffit de dire que vous voulez des sushis, il sait ce que vous aimez les sushis, sait ce que vous n’aimez pas et fera de votre mieux pour vous satisfaire.

Il est difficile pour moi d’imaginer que nous entrons dans un monde complètement différent où vous allez dire: « Hé, Chatgpt, donnez-moi des sushis. » ?Il est difficile pour moi d’imaginer un monde où vous ne regardez jamais l’écran et n’utilisez que le mode vocal.Mais je peux imaginer que beaucoup de choses sont comme ça.

Apple a essayé Siri.On dit que vous pouvez commander automatiquement Uber avec Siri.Je ne pense pas que quiconque ait fait cela parce que … pourquoi allez-vous risquer de ne pas le mettre sur votre téléphone?Comme vous l’avez dit, la qualité n’est pas bonne.Mais lorsque la qualité est assez bonne, vous l’aimez plus parce qu’elle est plus légère.Vous n’avez pas à retirer votre téléphone.Vous n’avez pas à rechercher votre application et à l’appuyer sur.Oh, il vous déconnectera automatiquement.Oh, attendez, connectez-vous à nouveau.C’est tellement douloureux.

C’est comme définir une minuterie avec Siri.Je le fais à chaque fois parce que ça marche très bien et c’est génial.Et je n’ai pas besoin de plus d’informations.Mais lors de la commande d’Uber, je veux voir les prix de plusieurs options différentes.Je veux explorer la largeur de la portée de l’application de cette technologie.Je veux même savoir où ils se trouvent sur la carte, comme je pourrais choisir de marcher quelque part.Je pense qu’en regardant l’écran de commande Uber, je peux obtenir plus d’informations dans un temps plus court, et si je dois obtenir ces informations via le canal audio, cela prendra plus de temps.J’aime l’idée que vous avez proposée pour observer que les choses se produisent, ce qui est vraiment cool.Je pense que cela apportera quelques changements, et nous utiliserons différentes interfaces pour différentes tâches.Je crois que cette tendance se poursuivra.

Parmi tous les développeurs qui créent des applications et des expériences sur OpenAI, y a-t-il certains qui vous ont impressionné?Trouvez-vous que c’est une direction très intéressante, même si ce n’est qu’une application jouet.Mais l’avez-vous signalé et avez-vous dit que c’était vraiment important?

Ce matin, je suis tombé sur une nouvelle entreprise, et en fait, elle ne peut même pas compter en tant qu’entreprise.C’est comme si deux personnes travailleront sur un projet d’été essayant éventuellement de devenir des mentors de l’IA.J’ai toujours été intéressé par ce domaine.Il y a beaucoup de gens qui font de grandes choses sur notre plateforme.Mais si quelqu’un peut livrer la façon dont vous aimez vraiment, il utilise une chose que j’aime, c’est-à-dire que ce sera comme la reconstruction de niveau Montessori, la façon dont les gens apprennent les choses.Mais si vous pouvez trouver cette nouvelle façon d’amener les gens à explorer et à apprendre de nouvelles façons, je me sens personnellement très excité à ce sujet.

Devin, beaucoup de choses liées au codage que vous avez mentionnées auparavant, je pense que c’est comme une vision vraiment cool pour l’avenir.Je pense que les soins de santé devraient changer considérablement en conséquence.Mais ce que j’excite personnellement, c’est de rendre les découvertes scientifiques plus rapides et meilleures.Bien que GPT-4 ne joue évidemment pas un grand rôle, il peut accélérer les choses en augmentant la productivité des scientifiques.

Sam… ce serait une victoire.Ces modèles sont formés et construits différemment des modèles de langue.Pour certains, évidemment, il existe de nombreuses similitudes.Mais il existe de nombreux modèles avec une architecture de départ qui est appliquée à ces ensembles spécifiques de problèmes, ces applications spécifiques, telles que la modélisation d’interaction chimique.Vous aurez certainement besoin d’entre eux.

Je pense que ce que nous manquons généralement pour beaucoup de choses dont nous discutons, ce sont des modèles qui peuvent raisonner.Une fois que vous avez la possibilité de raisonner, vous pouvez le connecter à un stimulateur chimique ou quoi que ce soit d’autre.

Oui, c’est une question importante dont je souhaite discuter aujourd’hui, à savoir le concept de réseaux de modèles.Les gens parlent souvent de proxing comme s’il y avait un ensemble linéaire de fonctions d’appel.Mais une chose qui apparaît dans la biologie est un réseau de systèmes avec des interactions croisées, l’agrégation des systèmes … l’agrégation de réseaux produit une sortie, plutôt qu’une chose qui appelle une autre chose, cette chose appelant une autre chose.Avons-nous vu des modèles spécialisés ou des modèles de réseau apparaître dans cette architecture qui résolvent ensemble les ensembles de problèmes plus importants, en utilisant le raisonnement?Il existe des modèles de calcul qui peuvent faire des choses comme la chimie ou l’arithmétique, et il existe d’autres modèles qui peuvent faire, plutôt qu’un modèle purement généralisé pour les gouverner.

Je ne sais pas combien de raisonnement peut se traduire par une forme de promotion généralisée.Je suis sceptique à ce sujet, c’est plus une intuition et une attente, et si c’est le cas, ce serait génial.Je ne suis pas sûr…

Prenons l’exemple de la modélisation des protéines.Nous avons une grande quantité de données d’entraînement, d’images protéiques et de données de séquence.

Avez-vous déjà imaginé qu’il existe une IA générale ou un grand modèle d’inférence qui peut déterminer comment construire un sous-modèle et résoudre le problème en obtenant les données nécessaires, puis résoudre le problème …

Il existe de nombreuses façons d’y parvenir.Peut-être qu’il entraînera un modèle de texte, ou peut-être que cela connaîtra un grand modèle.Il peut sélectionner d’autres données de formation que vous souhaitez, poser des questions, puis mettre à jour.

Je suppose que la vraie question est la suivante: toutes ces startups feront-elles faillite?Parce que de nombreuses startups fonctionnent dans ce modèle, c’est-à-dire d’obtenir des données spéciales, puis de former de nouveaux modèles à partir de zéro avec ces données spéciales.Ensuite, cela ne fait que cette chose.Et cela fonctionne très bien sur cette chose.C’est mieux que toute autre chose.

Je pense que vous pouvez déjà voir une version.

Lorsque vous parlez de biologie et de ces réseaux complexes de systèmes, je le comprends parce que j’ai été très malade ces derniers temps.Maintenant, je suis beaucoup mieux.Mais c’est comme si le corps était systématiquement vaincu un à la fois.Comme vous pouvez vraiment voir, eh bien, c’est une chose en cascade.Cela me rappelle la biologie dont vous parlez, comme si vous ne savez pas à quel point l’interaction entre ces systèmes est grande jusqu’à ce que les choses commencent à se tromper.C’est un peu amusant.

Mais j’utilisais Chatgpt pour essayer de comprendre ce qui se passait, et de toute façon, je dirais que je n’en suis pas sûr.Ensuite, j’ai publié un article et je ne l’ai même pas lu, tout comme dans le contexte.Il a dit, oh, c’est quelque chose dont je ne suis pas sûr, et maintenant je le pense à la place.Donc, c’est comme une petite version dont vous parlez, vous pouvez dire, je ne sais pas à ce sujet, vous pouvez ajouter plus d’informations, vous n’avez pas besoin de recycler le modélisateur pour ajouter au contexte ici.

Ainsi, ces modèles qui prédisent la structure des protéines, par exemple, oui, sont toute la base.Maintenant, il existe d’autres molécules sur Alphafold3.Peuvent-ils le faire?Oui, est-ce essentiellement un monde où le modèle le plus généralisé entre et obtient des données de formation, puis résout le problème par lui-même?

Peut-être pouvez-vous donner un exemple, pouvez-vous nous parler de Sora?Votre modèle vidéo peut générer des images dynamiques incroyables, des vidéos dynamiques et à quel point l’architecture est différente, peu importe ce que vous êtes prêt à partager, comment le rendre unique.

Oui, je vais donc commencer par la question générale, vous avez évidemment besoin d’émulateurs spécialisés, de connecteurs, d’extraits de données, etc., mais de mon intuition.Encore une fois, je n’ai aucune base scientifique, mon intuition est que si nous pouvons découvrir le cœur du raisonnement général et le connecter à de nouveaux domaines à problèmes, tout comme les humains sont des raisons générales, je pense qu’il est possible de débloquer plus rapidement, je pense que oui.Mais oui, vous voyez que cela ne commence pas par le modèle de langue.Il s’agit d’un modèle personnalisé pour les vidéos.Cependant, nous ne sommes évidemment pas encore entrés dans ce monde.

Par exemple, afin de créer un excellent modèle vidéo, vous l’avez construit à partir de zéro, je suppose que vous avez utilisé différentes architectures et différentes données.Mais dans le futur système de raisonnement général, c’est-à-dire AGI, quel que soit le système, il peut théoriquement atteindre l’objectif en comprenant comment y parvenir.

Oui, un exemple est que, pour autant que je sache, tous les meilleurs modèles de texte au monde sont toujours des modèles autorégressifs.Les meilleurs modèles d’image et de vidéo sont les modèles de diffusion.C’est quelque peu étrange dans une certaine mesure.

Par conséquent, il y a beaucoup de controverse sur les données de formation.Je pense que vous êtes le plus prévenant de toutes les sociétés, et vous avez maintenant signé un accord de licence avec FT et autres.Nous devons être un peu prudents ici parce que vous êtes impliqué dans le procès du New York Times et je ne pense pas que vous puissiez conclure un accord avec eux sur les données de formation.

Comment voyez-vous l’équité d’une utilisation raisonnable?Nous avons eu un débat animé sur le podcast.De toute évidence, vos actions démontrent pleinement que vous essayez d’atteindre l’équité grâce à un accord de licence.Alors, quelle position prenez-vous personnellement les droits des artistes qui créent une belle musique, des paroles et des livres?Utilisez-vous ces droits pour fabriquer des produits dérivés, puis les monétiser?Qu’est-ce que l’équité?Comment pouvons-nous amener les artistes à créer du contenu, puis décider de ce qu’ils veulent que les autres en font?

Je suis juste curieux de savoir vos convictions personnelles parce que je sais que vous êtes une personne réfléchie à cet égard.Je sais que beaucoup d’autres dans notre industrie ne sont pas très réfléchis aux créateurs de contenu.Je pense donc que différents types de personnes seront très différents.

En termes d’utilisation équitable, je pense que nous avons une position très raisonnable en vertu de la loi actuelle, mais je pense que l’IA est si différente.Mais pour des choses comme l’art, nous devons penser différemment.

Mais, supposons que vous lisez un tas de mathématiques en ligne et que vous avez appris à faire des mathématiques, je pense que cela semble sans compromis pour la plupart des gens.Ensuite, il y a un autre groupe de personnes qui pourraient avoir des opinions différentes.En fait, pour ne pas être trop long, je ne discuterai pas de cette question en profondeur.

Je pense donc qu’il y a un type de personnes qui diraient, eh bien, il y a une large connaissance humaine, vous pouvez dire, si vous apprenez, c’est-à-dire, c’est-à-dire des champs ouverts et autres, si vous allez apprendre le théorème de Pythagore.C’est une fin du spectre.Je pense que l’autre extrême du spectre est l’art, peut-être même un peu plus précis, je dirais que c’est comme le faire, c’est un système qui produit de l’art dans le style ou la similitude d’un autre artiste, qui est probablement le plus extrême.Ensuite, il existe de nombreuses situations au milieu du spectre.

Je pense que la discussion a été axée sur les données de formation, mais à mesure que la valeur des données de formation diminue, la discussion se tourne de plus en plus vers ce qui se passe lors du raisonnement.Et ce que fait le système, accéder aux informations dans le contexte en temps réel ou prendre des mesures similaires, ce qui se passe lors du raisonnement et comment les nouveaux modèles économiques seront plus débattus.

Donc, si vous dites, par exemple, si vous dites, par exemple, écrivez une chanson pour moi dans le style de Taylor Swift, même si le modèle n’a jamais été formé avec des chansons de Taylor Swift, vous avez toujours la question, c’est-à-dire le Le modèle a peut-être lu des articles sur Taylor Swift, connaissant probablement son sujet, ce que Taylor Swift signifie.La question suivante est, même si ce modèle n’a jamais été formé avec Taylor Swift Songs, devrions-nous le permettre de le faire?Si oui, comment Taylor Swift devrait-il être payé en conséquence?

Je pense que d’abord, il devrait y avoir une option dans ce cas, c’est-à-dire une option pour rejoindre ou sortir, et ensuite il devrait y avoir un modèle économique.Prenez la musique comme exemple, dans une perspective historique, voici quelques choses intéressantes à voir, c’est-à-dire l’échantillonnage et comment l’économie concernant l’échantillonnage fonctionne.C’est exactement la même chose, mais c’est un point de départ intéressant.

Sam, laissez-moi défier cela.

Quelle est la différence dans l’exemple que vous avez donné?Le modèle apprend la structure, le rythme, la mélodie, l’harmonie, la relation de la chanson, découvre toutes les structures sous-jacentes qui permettent à la musique de réussir, puis utilisent des données de formation pour construire de la nouvelle musique.Et les humains écoutent beaucoup de musique, leurs cerveaux traitent et construisent tous les mêmes modèles prédictifs, et ce sont les mêmes découvertes ou compréhensions.Quelle est la différence ici?Pourquoi vous dites peut-être que l’artiste devrait être récompensé uniquement, ce n’est pas un cas d’échantillonnage, vous n’êtes pas AI sans sortie, il ne stockait pas de véritables chansons originales dans le modèle.

Oui, apprenez la structure.

Je n’essaie donc pas de souligner cela, parce que je suis d’accord, tout comme les humains sont inspirés par d’autres humains.Je veux dire, si vous dites d’écrire une chanson de style Swift Taylor pour moi.

Je vois.Je pense que c’est là que les conseils sont utilisés pour profiter de certains artistes.

Je pense personnellement que c’est une situation différente.

Souhaitez-vous laisser le modèle s’entraîner, en utilisant l’intégralité du corpus de musique créé par les humains pour former le modèle musical sans payer de redevances aux artistes qui sont entrés dans la musique?

Ensuite, vous ne pouvez pas demander à l’artiste des conseils spécifiques, vous pouvez dire, hé, donnez-moi une chanson pop cool, cette chanson est assez moderne, raconte une histoire déchirante, avec la voix d’une femme

Nous avons décidé de ne pas faire de la musique en ce moment.Une partie de la raison est où vous tracez la ligne.

J’ai récemment rencontré quelques musiciens que j’admire tellement et je voulais juste parler de ces extrêmes, mais même dans ce monde, si nous allons, disons que nous payons 10 000 musiciens pour créer un tas de musique juste pour faire un Grand ensemble de formation, modèles musicaux apprennent tout sur les structures de chansons puissantes.Ce qui fait de bons rythmes accrocheurs et tout le reste.Et entraînez-vous simplement, en supposant que nous pouvons toujours faire de grands modèles musicaux, peut-être que nous le pouvons.J’ai un peu l’impression de le poser devant un musicien comme une expérience de pensée.Et ils bien, à ce moment-là, je ne pouvais pas m’y opposer dans un principe.Cependant, je n’aime toujours pas ça.Maintenant, ce n’est pas nécessairement une raison de ne pas le faire.Mais c’est le cas.

Avez-vous vu les annonces publiées par Apple, peut-être hier, ou quelque chose comme ça, compressant toute la créativité humaine en un iPad très mince?

Qu’en pensez-vous?

Les gens sont très excités à ce sujet.

Oui.La réaction est plus forte que vous ne le pensez.

Je suis évidemment très optimiste quant à l’intelligence artificielle, mais je pense qu’il y a une certaine beauté dans la créativité humaine et l’expression artistique humaine.C’est idéal pour une IA qui peut faire mieux dans la recherche scientifique, allez.Cependant, si l’IA peut atteindre le niveau d’une expression créative profonde et belle des êtres humains, je pense que nous devons être clairs sur la façon dont cela se produira.Il deviendra un outil qui nous conduira à des hauteurs créatives plus élevées.Mais je pense que nous devons trouver des moyens de le faire pour préserver l’esprit dont nous nous soucions tous.

Je pense que vos actions sont très convaincantes.Nous essayons de créer les personnages de Star Wars à Dall-E.Si vous demandez à Dark Vador, cela dira, hé, nous ne pouvons pas faire ça.Donc, je pense que vous avez formé une équipe rouge en interne ou vous pouvez l’appeler comme vous le souhaitez.Nous l’avons essayé.Oui, vous ne permettez pas aux gens d’utiliser la propriété intellectuelle des autres.Vous avez donc pris cette décision.

Maintenant, si vous lui demandez de faire un bulldog Jedi ou un Bulldog de Sith Lord (ce que j’ai fait), il transformera mon bouledogue en un bouledogue Sith.

Il y a une question intéressante sur ce que vous avez dit, oui.Nous avons publié quelque chose appelé les normes hier et nous avons essayé d’illustrer comment notre modèle devrait se comporter.C’est une tâche difficile.Il s’agit d’un très long document.Il est très difficile de spécifier exactement où la limite doit être dans chaque cas.Je pense que c’est une discussion qui nécessite plus de contribution.

Cependant, l’idée du Seigneur Sith, de la chose de style Sith ou de Jedi est comme une partie de la culture à ce stade, et ce sont des décisions difficiles.

Oui, je pense que vous avez raison.L’industrie musicale examinera cette opportunité pour faire les chansons de Taylor Swift.Cela fait partie des tests d’utilisation équitable en quatre parties qui peuvent tirer parti de nouvelles innovations dans l’art existant.Disney a un argument, hé, si vous allez faire une version Sora d’Ashoka, ou Obi-Wan Kenobi, c’est la chance de Disney.C’est un excellent partenariat pour vous.

Donc, je pense que je marque cette partie en tant qu’IA et en droit.

Alors, permettez-moi de poser une question de niveau supérieur.Qu’est-ce que cela signifie lorsque les gens disent réguler l’intelligence artificielle?Vous pouvez également commenter les réglementations nouvellement proposées en Californie si vous préférez.

Je suis très inquiet à ce sujet.Il y a beaucoup de réglementations proposées, mais la plupart des réglementations que je vois sur la Californie m’inquiètent.Je crains également que les États le fassent eux-mêmes.

Quand les gens disent qu’ils veulent réguler l’IA, je ne pense pas qu’ils signifient une chose spécifique.Je pense que certaines personnes interdisent le tout.Certaines personnes diront qu’il n’est pas autorisé à être open source et exige qu’il soit open source.Ce qui m’intéresse le plus, c’est que je pense que quelqu’un dira, regardez, je me trompe peut-être.J’avoue qu’il s’agit d’une déclaration prospective.Et faire ces déclarations est toujours dangereux.Mais je pense que dans un avenir proche, il y aura un jour où nous ne parlons pas de décennies plus tard.Pour ces systèmes, nous effectuons également une surveillance mondiale de choses comme les armes nucléaires ou les organismes synthétiques qui peuvent avoir des effets très négatifs qui peuvent aller bien au-delà de la portée d’un pays.J’ai hâte de voir une institution internationale rechercher les systèmes les plus puissants et de garantir des tests de sécurité raisonnables.Ces systèmes ne s’échapperont pas automatiquement, ni ne s’amélioreront, etc.

Cependant, la critique de cela est que vous avez les ressources pour plaire, faire pression, participer, vous avez des liens étroits avec les politiciens, et pour les startups, malgré leur enthousiasme et leur investissement, ils n’ont pas assez de ressources pour faire face à ce problème.Ce phénomène de capture réglementaire, comme l’a souligné notre ami Bill Gurley dans son discours l’année dernière.

Alors peut-être que vous pouvez résoudre ce problème de front.Je serais satisfait de cela si nous ne nous concentrions que sur des modèles formés sur des ordinateurs d’une valeur de plus de 10 milliards de dollars ou plus de 100 milliards de dollars ou quoi que ce soit d’autre.C’est une ligne que je peux accepter.Je ne pense pas que cela mettra un fardeau réglementaire sur les startups.

Donc, si vous avez la matière première nucléaire pour faire une bombe nucléaire, tout comme un petit nombre de personnes l’ont, vous pouvez utiliser une analogie comme un inspecteur nucléaire.Je pense que c’est un point intéressant.

Puis-je dire encore une chose?certainement.Je suis très nerveux à propos de la surrégulation ici.Je pense que nous pouvons nous tromper si nous en faisons trop, ou même un peu trop.Je pense que nous n’en faisons pas assez et que nous pouvons nous tromper.Mais je pense qu’une partie de la raison en est… Maintenant, nous avons vu la dépassement de la réglementation ou du contrôle devenir vraiment mauvais dans d’autres domaines.

Et, peut-être que rien ne se passera.Mais je pense que cela fait partie de notre devoir et de notre mission de parler de ce que nous pensons possible et de ce qui doit être fait pour y parvenir.

Sam, le défi est que nous avons des lois et des réglementations pour protéger le peuple et toute la société.

Cependant, les réglementations que nous développons donnent aux gouvernements le droit d’entrer et d’auditer des secrets commerciaux.Nous n’avons jamais vu de réglementations de ce niveau auparavant.Fondamentalement, la législation proposée par la Californie et certaines législations fédérales exigent essentiellement des audits gouvernementaux des paramètres et des poids d’un modèle, d’un logiciel d’audit, d’un audit et de modèles d’examen.Ensuite, vous avez besoin de leur tique pour le déployer pour un usage commercial ou public.

Pour moi, j’ai l’impression que nous essayons de contrôler les agences gouvernementales pour créer la peur.Parce que les gens sont difficiles à comprendre, peur de ses effets, ils veulent le contrôler.Et la seule façon de le contrôler est de me donner les droits d’audit avant de le publier.

Oui, ils ne savent rien.Ces gens ne savent rien.La façon dont ces choses sont écrites, vous les lisez, vous deviendrez fou.Parce que, comme vous le savez, dans 12 mois, ces choses n’auront pas de sens de toute façon.J’ai fait pression pour une approche basée sur l’agence pour résoudre la vue d’ensemble au lieu de l’écrire comme la loi,

Je ne pense pas que même si ces gens sont des experts du monde réel, je ne pense pas qu’ils puissent le gérer correctement en 12 ou 24 mois.Je ne pense pas.Nous examinerons ces politiques, effectuerons un examen complet de tout votre code source et afficherons tous vos poids un par un.Je pense qu’il existe de nombreuses propositions folles, surtout lorsque le modèle est constamment recyclé et devient plus dynamique.C’est pourquoi je pense que cela a du sens.

Avant que l’avion ne soit certifié, nous effectuerons une série de tests de sécurité pour faire passer l’avion à travers ces tests.Ceci est complètement différent du processus de lecture de tout le code.Nous examinons la sortie du modèle, ne regardons pas l’intérieur du modèle.

Donc, je pense qu’il est logique de faire des tests de sécurité.

Alors, Sam, comment devrions-nous y parvenir?

Je représente ici non seulement Openai, mais aussi toute l’industrie et même les humains.Je crains que si nous limitons ces technologies qui ont un grand potentiel de développement et de grands avantages pour l’humanité, nous pouvons tomber dans l’âge sombre.Alors, comment devrions-nous changer cela et y parvenir?

Parce que le niveau du gouvernement se développe trop vite, les gens semblent avoir pris la mauvaise direction et je m’inquiète.Sur cette base, Sam, par exemple, les décisions architecturales de Lama sont très intéressantes car nous laisserons Llama grandir avec le moins de contraintes possible.Nous avons une autre chose, nous l’appelons la Garde lama, qui est conçue pour être ces garde-corps protecteurs.

Selon vous, quelle est la bonne façon de résoudre le problème?

À en juger par la force du modèle actuel, il y aura certainement quelques problèmes.Je ne veux pas les sous-estimer ou les prendre au sérieux.Mais je ne m’inquiète pas de risque catastrophique que le modèle de niveau GPT-4 apportera.Je pense qu’il existe de nombreux moyens sûrs de choisir de le déployer.

Si nous disons cela, nous trouverons peut-être plus un terrain d’entente.J’aime cet exemple concret, que les modèles sont capables, techniquement, et même s’ils ne sont pas utilisés de cette façon, ils peuvent être des armes biologiques de manière récursive, ou des armes biologiques de conception et de déploiement, ou quelque chose comme ça.Ou un nouveau modèle.C’est le point clé de l’amélioration de soi récursive.

Nous devons effectuer des tests de sécurité de la production des modèles au niveau international, car ces modèles ont des opportunités raisonnables d’y mettre une menace.Je ne pense pas que quelque chose comme GPT-4, bien sûr, ne représente aucune menace, eh bien, je ne dis pas de menaces, parce que nous ne pensons pas, oui, je ne pense pas que GPT-4 soit une importante menace pour ces choses.Je pense qu’il existe de nombreux moyens sûrs de publier de tels modèles.

Mais lorsque les victimes majeures sont une possibilité sérieuse, comme un avion ou tout autre exemple, je pense que nous sommes heureux d’avoir une sorte de cadre de test, comme quand je monte dans l’avion, je ne pense pas à l’avion, je Supposons que ce sera sûr.

Sam, il y a de nombreuses préoccupations concernant l’emploi maintenant.Vous avez fait beaucoup de tests sur UBI lorsque vous étiez en YC.Vos résultats sortiront bientôt.Je dis juste que c’est une étude qui s’est terminée ou a commencé il y a cinq ans.Il y a d’abord une recherche bêta, puis des recherches à long terme.Cependant, qu’avez-vous appris de tout cela?

En effet, pourquoi avez-vous tout commencé?Pouvez-vous expliquer pourquoi vous avez commencé à regarder le revenu de base universel (UBI)?

我们在2016年开始考虑这个问题，大约在同一时间，我们开始认真对待人工智能。En théorie, l’étendue du changement d’emploi dans la société et l’économie et le potentiel d’une signification plus profonde (par exemple, comment le contrat social changera), nous devons faire beaucoup de recherches pour explorer comment ces nouveaux changements sont organisés. idées.

我必须承认，我并不是政府处理大多数旨在帮助穷人的政策的狂热支持者。我倾向于相信，如果你能给人们钱，他们会做出正确的决定，市场会发挥作用。我非常支持提高最低生活标准，减少贫困，甚至消除贫困。但我感兴趣的是，是否有比我们为现有社会安全网所做的尝试更好的方法，以及处理事情的方式。

我认为给人们钱并不能解决所有问题，当然也不能让人们都感到快乐。Mais cela peut résoudre certains problèmes et donner aux gens une meilleure perspective pour s’aider eux-mêmes.Je suis très intéressé par cela.

Je pense que maintenant nous voyons certaines approches, donc 2016 était il y a longtemps.Maintenant que nous voyons certaines façons dont l’IA se développe, je me demande s’il y a quelque chose de mieux à faire que le concept UBI traditionnel.Par exemple, je me demande si l’avenir ressemblera davantage à l’informatique de base générale que le revenu de base général.Tout le monde obtient une partie des calculs GPT-7 qu’ils peuvent utiliser, ils peuvent revendre, ils peuvent faire un don à quelqu’un pour la recherche sur le cancer.Mais ce que vous obtenez n’est pas le dollar, mais une partie de la productivité.Oui, vous avez une certaine productivité.

Ok, parlons de potins.Alors, revenons à novembre de l’année dernière.Que s’est-il passé exactement?

Si vous avez des questions spécifiques, je serais heureux de répondre, peut-être que j’ai dit que nous en parlerons à un moment donné.

C’est donc le point.ce qui s’est passé?Vous êtes viré et vous revenez, c’est un complot de la cour.Quelqu’un vous a-t-il poignardé dans le dos?Avez-vous trouvé l’objectif ultime de l’intelligence artificielle (AGI)?Ce qui s’est passé?C’est un espace sûr.

J’ai été licencié.J’ai dit que j’étais de retour et je n’étais pas un peu incertain ce que je voulais faire parce que j’étais très contrarié.J’ai réalisé que j’aime vraiment Openai et les gens là-bas, je reviendrai et je sais que ce sera difficile.C’est plus difficile que je ne le pensais.Mais je pensais à l’époque, ok, pas de problème.J’accepte de revenir.Il a fallu un certain temps au conseil d’administration pour le comprendre.Ensuite, nous essayions en quelque sorte de réunir l’équipe et de continuer à faire des choses pour nos clients.Ensuite, d’autres plans commencent à être développés et le conseil décide d’embaucher un autre PDG par intérim.Oh mon Dieu, quel est le nom de ce gars?他的存在就像是在吓唬人，这是非常棒的。Je n’ai que de bonnes choses à dire.

Alors, où avez-vous appris votre licenciement?

Je l’ai appris en passant le week-end dans une chambre d’hôtel à Las Vegas.J’ai reçu un SMS et ils ont dit, le feu et le ramasser.Je pense que vous avez eu cette situation avant d’essayer de penser si j’ai été licencié.Je ne pense pas que je suis fatigué de ça.Oui, j’ai reçu un SMS.Non, c’est juste une chose étrange.

Alors, qui a envoyé ce SMS?

En fait, j’ai reçu ce texte la veille.Ensuite, j’ai parlé au conseil d’administration.Et puis c’est tout.Ensuite, je l’ai en quelque sorte compris, puis tout est devenu fou.Mon téléphone n’était pas disponible à l’époque.Il continue de trembler, comme des messages texte, des appels téléphoniques.

Fondamentalement, vous avez été licencié d’un tweet.Cela s’est produit plusieurs fois au cours de l’administration Trump.

Ils m’ont appelé avant de tweeter, ce qui était génial pour eux.Ensuite, j’ai passé plusieurs heures dans ma chambre d’hôtel dans un état totalement hilarant.J’étais très confus à l’époque et je ne savais pas quoi faire.Trop étrange.

Ensuite, je suis rentré chez moi, probablement dans l’avion, vers 15 heures.Toujours comme, vous savez, le téléphone fou continue de sonner.J’ai rencontré des gens en personne.Cette nuit-là, je pensais, OK, je ferai de la recherche AGI et je suis très content de l’avenir.Oui, j’ai le choix.

Le lendemain matin, j’ai eu un appel téléphonique avec plusieurs membres du conseil d’administration pour discuter des problèmes qui reviennent, ce qui a conduit à quelques jours de chaos de plus.Ensuite, j’ai senti que la question était résolue.Eh bien, il y a beaucoup de choses folles au milieu.

Combien de ces membres du conseil d’administration à but non lucratif sont en raison de ces membres du conseil d’administration à but non lucratif?

Eh bien, nous n’avons qu’une seule carte à but non lucratif.Ils sont donc tous des membres du conseil d’administration à but non lucratif.Le conseil d’administration a été réduit à six.Ensuite, ils ont retiré Greg du conseil d’administration et m’ont licencié.

Alors, y a-t-il un conflit culturel entre les personnes ayant une expérience à but non lucratif et ceux qui ont une expérience entrepreneuriale au conseil d’administration?Si vous le souhaitez, vous pouvez peut-être partager la motivation derrière l’action, tout ce que vous pouvez partager.

Je pense que les conflits culturels ont toujours existé.De toute évidence, tous les membres du conseil d’administration ne sont pas mes favoris, mais j’ai beaucoup de respect pour leur sérieux envers AGI et l’importance de traiter correctement la sécurité de l’IA.Même si je suis totalement en désaccord avec leurs décisions et leurs actions, je n’ai jamais douté de leur intégrité ou de leur engagement envers une mission partagée pour un AGI sûr et bénéfique.

Je pense qu’ils ont pris la bonne décision dans le processus ou savaient comment équilibrer tout ce qu’Openai a à bien faire?Non.Mais je pense qu’ils ont des intentions, ont des intentions à l’échelle AGI et le font bien.

En fait, permettez-moi de vous poser cette question.Donc, la mission d’Openai est clairement de créer AGI, et je pense que c’est vraiment amusant.Beaucoup de gens pensent que si nous créons l’intelligence artificielle (AGI), ce serait le résultat inattendu de quelque chose qui ne va pas.Ils en avaient extrêmement effrayé.Cependant, Openai le considère comme une mission pratique.Cela vous fera vous sentir plus peur de ce que vous faites?Je comprends que cela peut générer une motivation, mais comment réconciliez-vous cela?Je me demande pourquoi c’est une mission?

Je pense que je veux tout d’abord répondre, c’est que cela déclenche vraiment beaucoup de peur.Je pense que beaucoup de gens dans le monde ont très peur de l’AGI, même de l’IA actuelle, et sont également très enthousiastes à propos de sa direction, encore plus effrayée et excitée.Nous luttons avec ça.Mais je pense que c’est inévitable.Je pense également que cela apportera d’énormes avantages.Mais nous devons trouver un moyen d’y arriver de manière raisonnable.Beaucoup de choses changent et les changements mettent les gens mal à l’aise.Nous avons donc beaucoup à faire.

Puis-je poser une question différente?Vous avez créé l’une des sociétés les plus chaudes.Et vous êtes en effet au centre.Mais d’un point de vue économique, vous évitez toutes ces valeurs, ce qui est très unique.Pouvez-vous nous dire?

Oui, j’aimerais avoir les capitaux propres à ce moment-là, donc je n’ai pas eu à répondre à cette question.Si je pouvais retourner dans le passé …

Pourquoi ne vous donnent-ils pas une subvention maintenant?Pourquoi le conseil d’administration ne vous donne-t-il pas une importante subvention que vous méritez?Quelle a été la décision à ce moment-là?Pourquoi est-ce si important?

La raison initiale de la décision à ce moment-là n’était que la structure de notre organisation à but non lucratif.D’un point de vue de motivation, c’est génial.Mais principalement notre conseil a besoin de la plupart des administrateurs altruistes.Je pense que c’est bien.Je n’ai pas besoin de capitaux propres maintenant.Je suis un peu … mais j’espère …

Mais de cette manière étrange, maintenant vous dirigez une entreprise, oui, cela crée ces questions étranges comme, quelle est votre vraie motivation…

Totalement correct.

C’est tellement profond… Une chose que j’ai remarquée, c’est qu’il est difficile pour les gens d’imaginer qu’ils diront « Je n’ai pas besoin de plus d’argent ».Je sais aussi à quel point le ton est insensible… Je pense que les gens pensent que c’est un petit motif arrière.Oui.Alors en supposant … que fait-il pour gagner de l’argent?Si je viens de dire, je vais gagner un billion de dollars avec Openai, je pense que tout le monde sera plus détendu et cela ne me sauvera pas.Cela économisera beaucoup de théories du complot.

Sam, tu es un grand trafic.J’ai suivi toute votre carrière.Vous êtes très bon dans ce domaine.Vous avez toutes ces relations.Vous êtes vraiment doué pour collecter des fonds.Vous êtes génial à cet égard.Vous avez Johnny Ivy, vous investissez dans l’entreprise, vous obtenez le ballon, vous collectez 7 billions de dollars pour construire le fab, tout ça.Tous ces facteurs se sont combinés,

Je suis juste une blague ici.De toute évidence, vous n’avez pas collecté 7 billions de dollars, ce qui pourrait bien être une capitalisation boursière ou quelque chose.Cependant, en mettant cela de côté, la clé est que vous avez effectué toutes ces transactions.Leur méfiance envers vous est à cause de quelle est votre motivation?Vous êtes enfin parti, quelles sont les opportunités à l’intérieur d’Openai?Quelles opportunités devraient appartenir à Sam, et celles de ces organisations à but non lucratif ne vous font pas confiance?est-ce ainsi?

Si nous étions des sociétés d’équipement ou si nous travaillions sur des sociétés de fabrication de puces, ce n’étaient pas des projets de Sam.Tout comme Openai obtiendra ces capitaux propres.Ils l’obtiendront.

Cependant, ce n’est pas l’opinion publique.Ce n’est pas l’opinion des gens qui commentent ces choses toute la journée.C’est juste parce que nous n’avons pas encore annoncé ces choses, car ce n’est pas encore fait.Je ne pense pas que la plupart des gens du monde y réfléchissent.Mais je suis d’accord, cela a déclenché beaucoup de théories du complot parmi les commentateurs techniques.

Si je pouvais remonter dans le temps, je dirais, permettez-moi de rendre cela clair en toute justice.Ensuite, je le fais toujours parce que je me soucie vraiment d’Agi et je pense que c’est le travail le plus intéressant du monde.Mais au moins, cela avertira tout le monde.

Alors, qu’est-ce qu’un projet de puce?Cela représente 7 billions de dollars.D’où vient ce 7 billions de dollars?

Je ne sais pas d’où ça vient.En fait, je ne sais vraiment pas.Je pense que le monde a besoin d’une infrastructure d’intelligence artificielle plus, dépassant de loin le nombre de constructions actuellement planifiées, et la structure des coûts est également différente.La façon spécifique dont nous jouions était, nous essayions toujours de le comprendre.

Qu’aimez-vous dans le modèle organisationnel d’Openai?Est-ce comme une action rapide, brisant la norme, petite équipe très fragmentée?Ou est-ce davantage de cet effort organisé que vous devez planifier parce que vous voulez empêcher des situations extrêmes?

Ce n’est pas parce que nous devons être plus organisés pour éviter des situations extrêmes.Mais parce que ces systèmes sont très complexes, les paris concentrés sont très importants.Par exemple, avant de le faire, vous avez des entreprises comme DeepMind, toutes ces différentes équipes faisant ces différentes choses.Ils ont répandu les paris.Vous laissez Openai dire que nous avons essentiellement toute l’entreprise qui travaille dur pour faire le GPT-4 ensemble.Ceci est inimaginable pour gérer un laboratoire de recherche sur l’IA.Mais je pense, au moins cela fonctionne, cela fonctionne pour nous.Ce n’est donc pas parce que nous voulons éviter des situations extrêmes, mais parce que nous voulons concentrer les ressources et faire ces choses grandes, difficiles et compliquées.Il y a en effet beaucoup de coordination dans notre travail.

Ok Sam, je comprends que tu dois partir.Vous avez fait un excellent travail au cours de la dernière heure.Bienvenue pour revenir à tout moment, je suis très heureux de vous parler.Oui, ce fut une conversation très intéressante.Merci d’être venu,

Sam, merci aussi pour votre honnêteté.Nous discutons de ce problème depuis plus d’un an.C’est incroyable et j’en suis très reconnaissant.

J’ai hâte de revenir après la prochaine grande conférence de presse afin que je puisse parler de certaines de ces choses plus directement.

Oui, vous avez reçu le lien Zoom.Le même lien de zoom est utilisé chaque semaine, et en même temps, vous pouvez vous joindre à tout moment (rires).