jakiro
Autor: Stadt Sky · Herr, Quelle: Web3 City of Sky
Gastgeber:
Ich habe Sam Altman, unseren bevorstehenden Gast, vor ungefähr 20 Jahren kennengelernt, als er an einer lokalen mobilen App namens Loop arbeitete.Wir alle haben die Unterstützung von Sequoia Capital, und tatsächlich sind wir alle die ersten Pfadfinder von Sequoia Capital.
Er investierte in unbekannte Weise in Stripe, ein Fintech -Unternehmen, und ich investierte in Uber.In diesem kleinen Experiment …
Sam:
Hast du in Uber investiert?Ich habe noch nie davon gehört.
Ja, ich denke schon.
Sie sollten ein Buch schreiben, Jacob.
Der kleine experimentelle Fonds, an dem Sam und ich als Pfadfinder teilnahmen, war der Fonds mit der höchsten Kapitalrendite in Sequoia.Ich hörte, dass Millionen von Dollar in mehr als 200 Millionen Dollar geworden sind.Er arbeitete auch eine Weile für Y Combinator und war von 2014 bis 2019 Präsident.2016 war er Mitbegründer von Openai mit anderen mit dem Ziel, die universelle künstliche Intelligenz zu gewährleisten, die allen Menschheit zugute kommt.Im Jahr 2019 verließ er YC und kam als CEO in OpenAI in Vollzeit zu.
Am 30. November 2022 wurden die Dinge sehr interessant.Dieser Tag war der Tag, an dem Openai Chatgpt startete.Im Januar 2023 investierte Microsoft 10 Milliarden US -Dollar.Im November 2023 wurde Sam während einer verrückten fünftägigen Zeit von Openai entlassen.Jeder muss bei Microsoft arbeiten.Ein Haufen herzförmiger Emojis wurde auf X und Twitter viral, und die Leute begannen zu spekulieren, dass das Team die universelle KI erreicht hatte.Das Ende der Welt kommt.Plötzlich kehrte er ein paar Tage später in die Position des CEO von Openai zurück.
Berichten zufolge möchte Sam im Februar 2023 7 Billionen US -Dollar für ein AI -Chip -Projekt sammeln.Es wurde zuvor berichtet, dass Sam von Masayoshi San 1 Milliarde US-Dollar sammeln wollte, um einen iPhone-Killer mit dem iPhone-Mitbegründer Johnny Ive zu erstellen.
Gleichzeitig wird Chatgpt immer besser und ein bekannter Name.Es hatte einen großen Einfluss auf die Art und Weise, wie wir arbeiten und wie wir arbeiten.Berichten zufolge ist es das schnellste Produkt in der Geschichte, um in nur zwei Monaten 100 Millionen Benutzer zu erreichen.
Schauen Sie sich das verrückte Umsatzwachstum von OpenAI an.Ihre ARR hat im vergangenen Jahr angeblich 2 Milliarden US -Dollar erreicht.Willkommen im Allround-Podcast,
Ich habe festgestellt, dass die gesamte Branche nervös auf die Freilassung des GPT-5 freut.Soweit ich weiß, kann es irgendwann in diesem Sommer gestartet werden, aber dieses Mal ist das Fenster ziemlich breit.Können Sie es für uns definieren?
Sam:
Wir werden einige Zeit damit verbringen, dieses große neue Modell zu veröffentlichen.Ich glaube, es wird großartig sein, wenn wir das tun.Wir werden sorgfältig darüber nachdenken, wie wir vorgehen sollen.Es könnte auf andere Weise veröffentlicht werden als wir das Vorgängermodell veröffentlicht haben.Ich bin mir auch nicht einmal sicher, ob wir es GPT-5 nennen werden.
Ich möchte sagen, dass viele Menschen seine hervorragende Leistung bemerkt haben, seit wir die GPT-4 veröffentlicht haben, insbesondere in den letzten Monaten.Ich denke, dies zeigt die Essenz der Welt besser.Ich denke, dies ist sowohl eine bessere technologische Richtung als auch einfacher für die Gesellschaft, um sich anzupassen.
Gastgeber:
Bedeutet das also, dass wir keine langen Trainingszyklen haben, aber Submodels umschulten oder trainieren, Sam?Vielleicht können Sie uns mitteilen, welche Änderungen in der Architektur großer Modelle in Zukunft auftreten können.
Sam:
Ein Szenario, das Sie sich vorstellen können, ist, dass wir immer ein Modell trainieren.Dies scheint ein vernünftiger Ansatz für mich zu sein.
Wir diskutieren diesmal verschiedene Möglichkeiten, um Veröffentlichungen zu veröffentlichen.Überlegen Sie, ob Sie zuerst bezahlte Benutzer veröffentlichen oder die Veröffentlichung verlangsamen, um das rote Team nervös zu halten, da das Risiko jetzt zu hoch ist.Tatsächlich haben Sie so viele bezahlte Benutzer und jeder verfolgt jeden Schritt Ihres Lebens.Sie müssen jetzt sorgfältiger nachdenken, oder?
Ja, GPT-4 ist im Moment nur noch offen für bezahlte Benutzer, aber eine Sache, die wir wirklich tun möchten, ist herauszufinden, wie die kostenlosen Benutzer fortgeschrittenere Technologien zur Verfügung stellen können.Ich denke, dies ist ein sehr wichtiger Teil unserer Mission.Unser Ziel ist es, KI -Tools zu erstellen und sie weit verbreitet zu machen, ob sie kostenlos oder günstiger sind, was auch immer es ist, damit die Menschen sie verwenden können, um die Zukunft zu kreieren, anstatt die magischen Agi am Himmel die Zukunft zu schaffen und sie zu gießen auf uns.Dies scheint eine bessere und inspirierende Straße zu sein.Ich bin fest davon überzeugt, dass sich die Dinge tatsächlich in diese Richtung bewegen.Also tut mir sehr leid, es ist mir sehr leid,Wir haben nicht herausgefunden, wie kostenlose Benutzer die GPT-4-Technologie verwenden können.Das wollen wir wirklich tun.Ich muss zugeben, es ist sehr teuer.
Sam, ich denke, zwei große Faktoren, die Menschen häufig diskutieren, sind potenzielle Kosten und Latenz, die die Rate der Killeranwendungen einschränken.Dann denke ich, dass der zweite Faktor die langfristige Fähigkeit ist, die Menschen in der Open-Source-Welt und in der Welt der geschlossenen Quelle aufbauen.Ich denke, der fanatische Teil dieses Feldes ist die Begeisterung seiner Open -Source -Community.Ein unglaubliches Beispiel ist, dass wir eine sehr verrückte Demo für Devon gemacht haben, die vor fünf oder sechs Wochen war und es sehr gut funktioniert hat.Dann veröffentlichten einige junge Leute das Projekt unter den offenen Lizenzen von MIT wie OpenDegr.Es zeigte sich sehr gut und war fast vergleichbar mit anderen Closed-Source-Projekten.Vielleicht können wir mit dieser Frage beginnen, d. H. Was sind die Geschäftsentscheidungen, die diese Modelle geschlossen halten.Was glaubst du, wird sich in den nächsten Jahren entwickeln?
Für den ersten Teil Ihrer Frage, Geschwindigkeit und Kosten sind diese für uns sehr wichtig.Ich möchte keine Zeitleiste darüber geben, wann wir die Verzögerung erheblich verringern können, da die Forschung schwierig ist, aber ich glaube, wir können es schaffen.Wir hoffen, die Latenz erheblich zu senken und die Kosten erheblich zu senken.Ich glaube, das wird passieren.Wir befinden uns noch in den frühen Phasen der wissenschaftlichen Entwicklung und können nicht verstehen, wie es funktioniert.Darüber hinaus haben wir alle technischen Rückenwinde.Ich weiß also nicht, wann wir Intelligenz bekommen, die billig genug ist, um messbar zu sein, und so schnell, dass wir und alle anderen das Gefühl haben, dass es sofort ist.Aber ich glaube, wir können ein ziemlich hohes Maß an Intelligenz erreichen.Dies ist uns wichtig und für den Benutzer wichtig und wird viele Dinge freischalten.
In Bezug auf Open Source und geschlossene Quelle denke ich, dass beide ihre Vorteile haben.Ich denke, wir haben einige Projekte eröffnet, und wir werden in Zukunft weitere Projekte eröffnen.In Wirklichkeit ist es unsere Mission jedoch, sich künstliche Intelligenz zu bewegen und Wege zu finden, um ihre Vorteile ausführlich zu verteilen.Wir haben eine Strategie, die bei vielen Menschen in Resonanz zu sein scheint.Offensichtlich ist es nicht jedermanns Sache.Und es ist ein riesiges Ökosystem.Es wird auch Open -Source -Modelle und Personen geben, die auf diese Weise gebaut werden.
Ein Bereich, den ich persönlich an Open Source interessiere, ist, dass ich ein gutes Open -Source -Modell, das auf meinem Telefon ausgeführt werden kann.Ich denke, die Welt hat nicht genug Technologie, um eine gute Version zu entwickeln.Dies scheint jedoch irgendwann eine sehr wichtige Sache zu sein.
Würdest du das tun?Wirst du es posten?
Ich weiß nicht, ob wir es tun werden oder ob jemand tun.
Wie wäre es mit Lama 3?
Lama 3 läuft auf Ihrem Telefon?
Ich denke, es gibt möglicherweise 7 Milliarden Parameter -Versionen (Mobiltelefone).
Ja.Ich weiß nicht, ob das für ein Telefon geeignet ist, aber …
Das sollte für ein Handy geeignet sein.
Aber ich weiß nicht, ich bin mir nicht sicher, ob das passt, ich habe es noch nicht gespielt.Ich weiß nicht, ob es ausreicht, um das zu erreichen, was ich hier nachdenke.
Als das Lama 3 veröffentlicht wurde, denke ich, dass das größte Mitnehmen für viele Menschen war, wow, sie haben die GPT-4 eingeholt.Ich denke nicht, dass es in jeder Hinsicht gleich ist, aber insgesamt ist es sehr, sehr nah.Ich denke, das Problem ist, dass Sie 4 vor kurzem veröffentlicht haben, Sie entwickeln 5 oder mehr Upgrades auf 4.Ich möchte Ihre Sichtweise hören, wie Sie in einer Open -Source -Umgebung vorne bleiben können. Was denkst du?Dies ist normalerweise eine sehr herausfordernde Aufgabe. Was denkst du?
Unser Ziel ist es nicht, die intelligentesten Gewichte zu erstellen, die wir machen können, sondern eine nützliche Schicht von Smarts für Menschen zu erstellen.Das Modell ist nur ein Teil davon.Ich glaube, wir werden diesbezüglich der Front voraus bleiben, und ich hoffe, wir können dem Rest der Welt in dieser Hinsicht weit voraus sein.Aber es gibt viele andere Arbeiten im gesamten System, nicht nur Modellgewichte.Wir müssen dauerhaften Wert auf traditionelle Weise schaffen, wie jedes andere Unternehmen.Wir müssen uns ein tolles Produkt und einen guten Grund einfallen lassen, um es zu einem guten Preis zu liefern.
Wenn Sie diese Organisation starten, ist das, was Sie sagen, oder Teil der Diskussion, dass sie für jedes Unternehmen zu wichtig ist, sodass es offen sein muss.Dann dreht es sich um, niemand kann sehen, dass es zu gefährlich ist, wir müssen es einsperren, weil Sie einige Bedenken haben.Ich möchte wissen, ist das wahr?Weil die zynische Seite sagen würde, dass dies ein kapitalistischer Schritt ist.Dann war ich neugierig, wie die Entscheidung war, mit der Öffnung zu beginnen.Die Welt muss das sehen.Schließen ist wirklich wichtig.Nur wir können es sehen.Wie sind Sie zu dieser Schlussfolgerung gekommen?
Ein Teil des Grundes, warum wir Chatgpt veröffentlicht haben, ist, dass die ganze Welt dies sieht.Wir haben versucht, den Leuten zu sagen, dass KI wirklich wichtig ist.Wenn Sie auf Oktober 2022 zurückkehren, gab es nicht so viele Leute, die dachten, AI wäre so wichtig, oder es passierte tatsächlich.Ein großer Teil dessen, was wir versuchen zu tun, ist, Technologie in die Hände der Menschen zu stecken.Jetzt gibt es wieder verschiedene Möglichkeiten, dies zu tun.Ich denke, es gibt in der Tat eine wichtige Rolle, dh beispielsweise ist dies der Weg, um sie umzusetzen.
Tatsächlich haben wir so viele Leute, die die kostenlose Version von ChatGPT verwenden, wir führen keine Anzeigen aus und wir werden nicht versuchen, Geld damit zu verdienen.Wir haben es gerade ausgerollt, weil wir wollten, dass die Leute diese Werkzeuge haben.Ich denke, es leistet viel Arbeit, bietet viel Wert, lehrt Menschen, wie man fischt, und lässt die Welt auch wirklich darüber nachdenken, was hier vor sich geht.Jetzt haben wir noch nicht alle Antworten gefunden.Wir sind wie alle anderen, die vorwärts tuschen.Ich denke, wir verändern unsere Strategie oft, wenn wir neue Dinge lernen.
Als wir Openai anfingen, wussten wir wirklich nicht, wie die Dinge gehen würden, wir würden Sprachmodelle machen, wir würden Produkte herstellen.Ich erinnere mich klar an den ersten Tag und wir waren wie, ok, jetzt sind wir alle hier.Es ist schwierig, all dies vorzubereiten.Aber was wird jetzt passieren?Vielleicht sollten wir ein paar Papiere schreiben.Vielleicht sollten wir um das Whiteboard stehen.Wir haben hart daran gearbeitet, herauszufinden, was als nächstes kommt, was als nächstes kommt und was als nächstes kommt.Ich denke, wir werden das weiterhin tun.
Kann ich es noch einmal bestätigen, um sicherzustellen, dass ich es nicht falsch höre?Ich verstehe Ihre Sichtweise, dass, ob es sich um Open Source- oder geschlossene Quelle handelt, all diese Modelle, unabhängig von Geschäftsentscheidungen, die Sie treffen, allmählich ihre Genauigkeit verbessern.Nicht alle Unternehmen haben genug Kapital, aber nehmen Sie an, dass es vier bis fünf gibt, wie Meta, Google, Microsoft usw., oder es gibt möglicherweise ein Startup.Diese Unternehmen arbeiten alle in einem offenen Netzwerk.Bald können die Genauigkeit oder der Wert dieser Modelle in diese proprietären Trainingsdatenquellen übertragen werden, die Sie möglicherweise erhalten oder nicht erhalten können, oder andere können sie erhalten, und Sie können nicht erhalten.
Glaubst du, das ist der Trend der Dinge?Das Öffnen des Netzwerks lässt alle eine bestimmte Schwelle erreichen, und dann wird es zu einem Wettrüsten für Daten?
Ich glaube nicht.Ich bin der festen Überzeugung, dass dies nicht in ein Wettrüsten für Daten wird, denn wenn das Modell klug genug wird, sollte es nicht nur darum gehen, mehr Daten zu erhalten, zumindest nicht die für das Training verwendeten Daten.Daten können wichtig sein, da sie ihren Wert haben.Eines der wichtigsten Dinge, die ich aus all dem gelernt habe, ist, dass es schwierig ist, selbstbewusste Vorhersagen darüber zu treffen, was in den nächsten Jahren passieren wird, also möchte ich es jetzt nicht versuchen.Ich möchte sagen, dass ich erwarte, dass viele sehr fähige Modelle auf der Welt erscheinen.Ich habe das Gefühl, dass wir nur auf eine neue natürliche oder wissenschaftliche Tatsache gestoßen sind, oder etwas, das Sie als Tatsache bezeichnen könnten, das wir schaffen könnten.Ich denke nicht, dass es wörtlich ist, aber es ist wie ein spiritueller Punkt.Intelligenz ist nur dieses plötzliche Eigentum der Materie, das wie physische Regeln oder so ähnlich ist.Die Leute werden es also herausfinden.Es wird jedoch all diese unterschiedlichen Ansätze für das Systemdesign geben.Die Menschen werden unterschiedliche Entscheidungen treffen und neue Ideen treffen.Ich bin mir sicher, wie in jeder anderen Branche, ich gehe davon aus, dass es mehrere Ansätze geben wird und verschiedene Menschen unterschiedliche Ansätze mögen.Einige Leute mögen iPhones, manche Leute wie Android -Telefone.Ich denke, das wird effektiv sein.
Kehren wir zum ersten Teil zurück und diskutieren nur Kosten und Geschwindigkeit.Alle Nvidia -Durchsatz sind etwas begrenzt, und ich denke, Sie und die meisten von Ihnen haben angekündigt, wie viel Kapazität Sie erhalten können, da dies die maximale Kapazität ist, die sie erzeugen können.Was muss im Substrat passieren, um die Rechenkosten wirklich zu senken, das Computer zu beschleunigen und mehr Energie zu erhalten?Wie helfen Sie der Branche, diese Probleme zu lösen?
Wir werden sicherlich große Fortschritte bei Algorithmen machen.Ich möchte das nicht unterschätzen.Ich bin sehr interessiert an Chips und Energie.Wenn wir jedoch die Effizienz des Modells derselben Qualität verdoppeln können, wäre es gleichwertig, unsere Rechenleistung zu verdoppeln.Ich denke, dort gibt es viel zu tun.Ich hoffe, wir können diese Ergebnisse wirklich sehen.Außerdem ist die gesamte Lieferkette sehr komplex.Die Produktionskapazität einer logischen Fabrik.Wie viele HBMs kann die Welt produzieren?Sie können schnell eine Lizenz erhalten, Beton gießen, ein Rechenzentrum erstellen und dann dafür sorgen, dass Personen alle Linien verbinden.Schließlich gibt es Energie, was ein großer Engpass ist.Aber ich denke, die Welt wird einen Unterschied machen, wenn sie für die Menschheit einen so großen Wert hat.Wir werden daran arbeiten, dies schneller zu machen.Die Möglichkeit gibt es, und ich kann keine bestimmte Wahrscheinlichkeit geben, aber ich glaube, wie Sie sagten, ist dies ein großer grundlegender Durchbruch.Wir haben bereits effizientere Berechnungen, aber ich möchte mich jedoch nicht zu sehr darauf verlassen und ich möchte nicht zu viel Zeit damit verbringen, darüber nachzudenken.
Auf der Geräteseite haben Sie Modelle erwähnt, die auf Ihrem Telefon installiert werden können.Offensichtlich, ob es sich um LLM oder SLM usw. handelt, glaube ich, dass Sie dieses Problem in Betracht ziehen.Aber wird sich das Gerät selbst ändern?Muss es so teuer sein wie ein iPhone?
Ich bin sehr interessiert daran.Ich mag neue Formen des Computers, und jeder wichtige technologische Fortschritt scheint etwas Neues zu bringen.Das Ausmaß der Exzellenz des Telefons ist unglaublich, daher denke ich, dass die Barriere hier sehr hoch ist.Ich persönlich denke, dass das iPhone das größte technologische Produkt in der Geschichte der Menschheit ist, und es ist wirklich ein großartiges Produkt.
Also, was wird als nächstes sein?
Ich habe keine Ahnung.Es wäre eine großartige Sache, darüber hinauszugehen, aber ich denke, die Barriere ist sehr hoch.
Ich habe mit Johnny Ivy zusammengearbeitet und wir haben über verschiedene Ideen gesprochen, aber ich bin mir nicht sicher, ob das neue Gerät komplexer sein muss oder tatsächlich nur billiger und einfacher sein muss?Fast jeder ist bereit, seine Telefone zu bezahlen. Wenn Sie also ein billigeres Gerät herstellen können, denke ich, dass die Hindernisse für das Tragen eines zweiten Geräts oder die Verwendung eines zweiten Geräts ziemlich hoch sind.Ich denke, wenn man bedenkt, dass wir alle bereit sind, für unsere Telefone zu bezahlen, oder die meisten von uns sind bereit, dass es nicht die Antwort auf das Problem ist.
Was sind die Unterschiede in der Antwort?
Gibt es einen speziellen Chip, der auf einem Telefon ausgeführt wird und ein KI-Modell mit Telefongröße gut fahren kann?
Es kann sein, aber Telefonhersteller werden das mit Sicherheit tun, und das erfordert keine neuen Geräte.Ich denke, Sie müssen einige wirklich unterschiedliche Interaktionsparadigmen finden, die Technologie erreichen kann.Wenn ich wüsste, was es war, würde ich mich freuen, jetzt zu erforschen.
Jetzt können Sie Voice in der App verwenden.Tatsächlich stelle ich die Aktionsschaltfläche auf meinem Telefon ein, um direkt zur Sprach -App von Chatgpt zu gehen, die ich mit meinen Kindern benutze, und sie lieben es, mit zu sprechen.Es hat Latenzprobleme, aber es ist wirklich großartig.
Wir werden es besser machen.Ich denke, Stimme ist der Hinweis auf das nächste.Wenn Sie beispielsweise Sprachinteraktionen sehr gut machen können, fühlt es sich wie eine andere Art der Verwendung eines Computers an.
Wie das Problem, auf das wir bereits begegnet sind, warum reagiert es nicht?Und es fühlt sich an wie CB, wie immer und immer wieder.Es ist wirklich nervig zu verwenden, aber es ist auch großartig, wenn es Ihnen die richtige Antwort gibt.
Wir arbeiten an diesem Problem.Jetzt ist es sperrig und langsam und fühlt sich nicht zu glatt, unwirklich oder unnatürlich an.Wir werden alles besser machen.
Was ist mit Computer Vision?Sie können visuelle oder Videodaten mit Sprachdaten kombinieren.
Heute konnte AI verstehen, was um Sie herum vor sich geht.Sie können Chatgpt wie ein multimodales Gerät fragen, zum Beispiel: „Was schaue ich mir an?“ Oder „Welche Pflanze ist das?“Dies ist offensichtlich ein weiterer Hinweis.
Unabhängig davon, ob Menschen bei Bedarf eine Brille tragen oder eine Art von Gerät verwenden, kann dies viele soziale zwischenmenschliche Probleme verursachen und das Tragen von Computergeräten sehr kompliziert werden.
Wir haben dies bei der Verwendung von Google Glass gesehen.Menschen können bei der Ausführung von Aufgaben beunruhigt sein.Ich habe einige spezifische Situationen vergessen.
Wenn KI zum Beispiel auf den Telefonen der Menschen ist, welche Apps können sie entsperren?Fühlen Sie sich so?Was willst du sehen?
Ich denke, alles was ich brauche ist ein immer online-, ultra-niedriger Reibungsgerät, mit dem ich über Voice oder Text oder idealerweise auf andere Weise interagieren kann.Es muss nur wissen, was ich will, und es gibt eine ständige Präsenz, die mir im Laufe des Tages hilft.Es hat so viele Hintergrundinformationen wie möglich, wie der größte Assistent der Welt.Es ist diese Existenz, die mich immer besser macht.
Wenn Sie Leute über die Zukunft der künstlichen Intelligenz sprechen hören, können sie sich zwei verschiedene Arten vorstellen, obwohl sie nicht viel anders klingt.Aber ich denke, dass wir in der Praxis beim Entwerfen von Systemen sehr unterschiedlich sein werden.Ich möchte, dass eine Person, die sich selbst erweitert, wie ein oder ein anderer Geist, oder diese, die mir wirklich gehört, in meinem Namen handelt, auf E -Mails antwortet und mir nicht einmal davon erzählen muss.Es ist wie ich, immer mehr wie ich.Andererseits möchte ich einen guten Mitarbeiter.Es könnte mich sehr gut kennen und ich könnte es delegieren.Sie können auf meine E -Mail zugreifen und ich werde Ihnen von den Einschränkungen erzählen.Aber ich denke, es ist eine separate Einheit.Ich persönlich bevorzuge die Art und Weise, unabhängige Unternehmen zu sein und denke, dass wir dorthin gehen.
In diesem Sinne sind es also nicht Sie, sondern ein herrschender, immer großartiger, super fähiger Assistant Supervisor.
In gewisser Weise ist es wie ein Agent, es funktioniert in Ihrem Namen, weiß, was Sie wollen, prognostiziert, was Sie wollen, und so verstehe ich, was Sie sagen.
Ich denke, es wird Agentenverhalten geben, aber es gibt einen Unterschied zwischen leitenden Mitarbeitern und Agenten.
Ich will es und ich denke, das einzige, was ich an Senior -Mitarbeitern mag, ist, dass sie mich widerlegen werden.Sie tun manchmal nicht das, wonach ich gefragt habe, oder manchmal sagen ich, dass ich das tun kann, wenn Sie wollen.Aber wenn ich das tue, denke ich, dass das Folgende passieren wird.Und dann das, dann das.
Bist du wirklich sicher?
Ich möchte definitiv diese Atmosphäre, nicht nur ich, die sie eine Aufgabe mache, sondern sie macht es blind.Es kann argumentieren und widerlegen.Es ist in der Lage zu argumentieren, und seine Beziehung zu mir ist wie die Beziehung, die ich erwarte, wenn ich mit einer Person arbeite, die wirklich fähig ist, was sich von Schmeichdern unterscheidet.
Wenn wir ein Tool wie Jarvis hätten, das Argumentationsfunktionen hatte, könnte es sich auf viele der wertvollen Produktoberflächen auswirken, die wir heute verwenden.Nehmen wir Instacart, Uber und Doordash als Beispiele, diese Dienste sind nicht als Pipelines gedacht, sondern bieten einer Gruppe allgegenwärtiger Smart -Agenten, die 8 Milliarden Menschen repräsentieren, eine Gruppe von APIs, die weltweit arbeiten.Was wir also überlegen müssen, ist, wie wir unser Verständnis dafür ändern sollten, wie Anwendungen funktionieren, die gesamte Erfahrungsinfrastruktur, um in diese neue Welt zu passen, in der Sie auf Proxy mit der Welt interagieren?
Ich bin persönlich sehr daran interessiert, eine Welt zu entwerfen, in der sowohl Menschen als auch künstliche Intelligenz gebrauchen können.Ich mag die Interpretierbarkeit, die fließende Übergabe und die Fähigkeit, Feedback zu geben.Zum Beispiel kann Doordash einige APIs meinen zukünftigen AI -Assistenten aufzeigen, damit sie Bestellungen usw. aufgeben können.Ich kann mein Telefon halten und sagen: „Okay, AIS -Assistent, bitte geben Sie diese Bestellung auf Doordash auf.“ Wo sowohl Menschen als auch KI dasselbe verwenden können, denke ich, dass es ein interessantes Konzept ist.
Aus dem gleichen Grund interessiere ich mich mehr für humanoide Roboter als an Robotern anderer Formen.Diese Welt ist für die Menschheit ausgelegt und ich denke, wir sollten sie so halten.Das Teilen der Schnittstelle ist eine gute Idee.
Sie werden also sehen, dass Voice, Chat und andere Modi die Anwendung ersetzen.Sie müssen es nur sagen, dass Sie Sushi wollen, es weiß, was Sushi Sie mögen, weiß, was Sie nicht mögen, und wird Ihr Bestes tun, um Sie zu befriedigen.
Es fällt mir schwer vor, sich vorzustellen, dass wir in eine völlig andere Welt eintreten, in der Sie sagen werden: „Hey, Chatgpt, gib mir Sushi.“ ? Welche Art von Abwechslung, wie spät, was auch immer.Es fällt mir schwer, mir eine Welt vorzustellen, in der Sie nie auf den Bildschirm schauen und nur den Sprachmodus verwenden.Aber ich kann mir vorstellen, dass viele Dinge so sind.
Apple hat Siri ausprobiert.Es wird gesagt, dass Sie Uber automatisch mit Siri bestellen können.Ich glaube nicht, dass jemand dies getan hat, weil … warum Sie riskieren, es nicht auf Ihr Telefon zu setzen?Wie Sie sagten, ist die Qualität nicht gut.Aber wenn die Qualität gut genug ist, gefällt es Ihnen tatsächlich mehr, weil sie leichter ist.Sie müssen Ihr Telefon nicht herausnehmen.Sie müssen Ihre App nicht durchsuchen und sie drücken.Oh, es wird dich automatisch auszeichnen.Oh, warte, melden Sie sich wieder an.Das ist so schmerzhaft.
Es ist wie ein Timer mit Siri.Ich mache das jedes Mal, weil es wirklich gut funktioniert und es großartig ist.Und ich brauche keine weiteren Informationen.Aber bei der Bestellung von Uber möchte ich die Preise für verschiedene Optionen sehen.Ich möchte untersuchen, wie weit der Anwendungsumfang dieser Technologie ist.Ich möchte sogar wissen, wo sie auf der Karte sind, da ich irgendwohin gehen könnte.Ich denke, dass ich durch Betrachtung des Bildschirms Uber Order in kürzerer Zeit mehr Informationen erhalten kann und wenn ich diese Informationen über den Audiokanal erhalten muss, wird es länger dauern.Ich mag die Idee, die Sie vorbereiten, um Dinge zu beobachten, was wirklich cool ist.Ich denke, dies wird einige Änderungen bringen, und wir werden verschiedene Schnittstellen für verschiedene Aufgaben verwenden.Ich glaube, dieser Trend wird fortgesetzt.
Gibt es unter allen Entwicklern, die Anwendungen und Erfahrungen auf OpenAI bauen, einige, die Sie beeindruckt haben?Finden Sie das eine sehr interessante Richtung, auch wenn es sich nur um eine Spielzeug -App handelt?Aber haben Sie darauf hingewiesen und gesagt, dass es wirklich wichtig ist?
Heute Morgen bin ich auf eine neue Firma gestoßen, und tatsächlich kann es nicht einmal als Unternehmen gelten.Es ist, als würden zwei Personen an einem Sommerprojekt arbeiten, der versuchen, schließlich zu KI -Mentoren zu werden.Ich habe mich schon immer an diesem Bereich interessiert.Es gibt viele Leute, die auf unserer Plattform großartige Dinge tun.Aber wenn jemand die Art und Weise liefern kann, wie Sie es wirklich mögen, verwenden sie eine Sache, die mir gefällt, das heißt, es wird wie eine Rekonstruktion von Montessori-Level sein, wie Menschen Dinge lernen.Aber wenn Sie diesen neuen Weg finden, um Menschen dazu zu bringen, selbst neue Wege zu erforschen und neue Wege zu lernen, bin ich persönlich sehr aufgeregt.
Devin, eine Menge codierungsbezogener Dinge, die Sie zuvor erwähnt haben, denke ich, das ist wie eine wirklich coole Vision für die Zukunft.Ich denke, die Gesundheitsversorgung sollte sich dadurch erheblich ändern.Aber was ich am meisten auferlegt, ist, wissenschaftliche Entdeckungen schneller und besser zu machen.Während GPT-4 offensichtlich keine große Rolle spielt, kann dies die Dinge durch Steigerung der Produktivität von Wissenschaftlern beschleunigen.
Sam … das wäre ein Sieg.Diese Modelle werden anders geschult und unterschiedlich gebaut als Sprachmodelle.Für einige gibt es natürlich viele Ähnlichkeiten.Es gibt jedoch viele Modelle mit einer Startarchitektur, die auf diese spezifischen Probleme angewendet wird, diese spezifischen Anwendungen, wie z. B. die Modellierung der chemischen Interaktion.Sie werden auf jeden Fall einige von ihnen brauchen.
Ich denke, das, was uns im Allgemeinen für viele der Dinge fehlt, die wir diskutieren, sind Modelle, die argumentieren können.Sobald Sie die Möglichkeit haben, zu argumentieren, können Sie es mit einem chemischen Stimulator oder irgendetwas anderem verbinden.
Ja, dies ist ein wichtiges Thema, das ich heute diskutieren möchte, nämlich das Konzept von Modellnetzwerken.Die Leute sprechen oft über das Verfolgen, als ob eine lineare Reihe von Anruffunktionen stattfinden würde.Eine Sache, die in der Biologie erscheint, ist ein System von Systemen mit Kreuzinteraktionen, Aggregation von Systemen … Die Aggregation von Netzwerken erzeugt Output, anstatt eine Sache, die ein anderes Ding nennt, das eine andere Sache nennt.Haben wir gesehen, wie in dieser Architektur spezielle Modelle oder Netzwerkmodelle angezeigt werden, die zusammen größere Problemsätze unter Verwendung von Argumentation lösen?Es gibt Rechenmodelle, die Dinge wie Chemie oder Arithmetik tun können, und es gibt andere Modelle, die dies tun können, und nicht ein rein verallgemeinertes Modell, um sie zu regieren.
Ich bin mir nicht sicher, wie viel Argumentation in eine Form der weit verbreiteten Werbung umgesetzt werden kann.Ich bin skeptisch darüber, es ist eher eine Intuition und Erwartung, und wenn dies der Fall ist, wäre es großartig.Ich bin mir nicht sicher…
Nehmen wir als Beispiel die Proteinmodellierung.Wir haben eine große Menge an Trainingsdaten, Proteinbildern und Sequenzdaten.
Haben Sie sich jemals vorgestellt, dass es ein allgemeines KI oder ein großes Inferenzmodell gibt, das herausfinden kann, wie man ein Submodell erstellt und das Problem lösen, indem Sie die erforderlichen Daten erhalten, und dann das Problem lösen …
Es gibt viele Möglichkeiten, dies zu erreichen.Vielleicht trainiert es ein Textmodell, oder vielleicht kennt es nur ein großes Modell.Es kann andere Trainingsdaten auswählen, die Sie möchten, Fragen stellen und dann aktualisieren.
Ich denke, die eigentliche Frage ist, werden all diese Startups bankrott gehen?Weil viele Startups in diesem Muster arbeiten, das darin besteht, spezielle Daten zu erhalten und dann neue Modelle mit diesen speziellen Daten von Grund auf neu zu trainieren.Dann macht es genau das Ding.Und es funktioniert sehr gut in diesem Ding.Es ist besser als alles andere.
Ich denke, Sie können bereits eine Version sehen.
Wenn Sie über Biologie und diese komplexen Systeme von Systemen sprechen, verstehe ich es, weil ich in letzter Zeit sehr krank war.Jetzt geht es mir viel besser.Aber es ist, als würde der Körper nacheinander systematisch besiegt.Wie Sie wirklich sehen können, ist dies eine kaskadierende Sache.Es erinnert mich an die Biologie, über die Sie sprechen, als wüssten Sie nicht, wie groß die Interaktion zwischen diesen Systemen ist, bis die Dinge schief gehen.Das macht ein bisschen Spaß.
Aber ich benutzte Chatgpt, um herauszufinden, was los war, und ich würde sagen, ich bin mir nicht sicher.Dann habe ich ein Papier veröffentlicht und es nicht einmal gelesen, genau wie im Kontext.Es heißt, oh, das ist etwas, über das ich mir nicht sicher bin, und jetzt denke ich stattdessen.Es ist also wie eine kleine Version, über die Sie sprechen.
Diese Modelle, die beispielsweise die Proteinstruktur vorhersagen, sind also die gesamte Grundlage.Jetzt gibt es andere Moleküle auf Alphafold3.Können sie es tun?Ja, ist dies im Grunde eine Welt, in der das beste verallgemeinerte Modell eintritt und Schulungsdaten erhält und dann das Problem selbst löst?
Vielleicht können Sie ein Beispiel geben, können Sie uns etwas über Sora erzählen?Ihr Videomodell kann erstaunliche dynamische Bilder, dynamische Videos und wie unterschiedlich die Architektur gibt, egal was Sie zu teilen sind, wie Sie es einzigartig machen können.
Ja, also werde ich mit der allgemeinen Frage beginnen, Sie benötigen offensichtlich spezielle Emulatoren, Anschlüsse, Datenausschnitte usw., aber meine Intuition.Auch hier habe ich keine wissenschaftliche Grundlage, meine Intuition ist, dass, wenn wir den Kern des allgemeinen Arguments herausfinden und sie mit neuen Problembereichen verbinden können, so wie Menschen allgemeine Gründe sind, ich denke, es ist möglich, schneller freizuschalten, denke ich.Aber ja, Sie sehen, dass es nicht mit dem Sprachmodell beginnt.Dies ist ein Modell, das für Videos angepasst wurde.Wir haben jedoch offensichtlich noch nicht in diese Welt teilgenommen.
Um beispielsweise ein ausgezeichnetes Videomodell zu erstellen, haben Sie es von Grund auf neu erstellt. Ich denke, Sie haben verschiedene Architekturen und verschiedene Daten verwendet.Aber im zukünftigen allgemeinen Argumentationssystem, dh Agi, unabhängig von welchem System, kann es theoretisch das Ziel erreichen, indem es versteht, wie dies erreicht werden kann.
Ja, ein Beispiel ist, dass, soweit ich weiß, alle besten Textmodelle der Welt immer noch autoregressive Modelle sind.Die besten Bild- und Video -Modelle sind die Diffusionsmodelle.Dies ist in gewissem Maße etwas seltsam.
Daher gibt es viele Kontroversen über die Trainingsdaten.Ich denke, Sie sind der rücksichtsvollste aller Unternehmen und haben jetzt eine Lizenzvereinbarung mit FT und anderen unterzeichnet.Wir müssen hier ein wenig vorsichtig sein, weil Sie an der New York Times -Klage beteiligt sind und ich glaube nicht, dass Sie eine Vereinbarung mit ihnen über Schulungsdaten erzielen können.
Wie sehen Sie die Fairness der vernünftigen Verwendung?Wir hatten eine hitzige Debatte über den Podcast.Offensichtlich zeigen Ihre Handlungen vollständig, dass Sie versuchen, Fairness durch eine Lizenzvereinbarung zu erreichen.Also, welche Position übernehmen Sie persönlich die Rechte von Künstlern, die schöne Musik, Texte und Bücher schaffen?Verwenden Sie diese Rechte, um abgeleitete Produkte herzustellen und sie dann zu monetarisieren?Was ist Fairness?Wie können wir Künstler dazu bringen, Inhalte zu erstellen und dann zu entscheiden, was andere damit tun sollen?
Ich bin nur neugierig auf Ihre persönlichen Überzeugungen, weil ich weiß, dass Sie diesbezüglich eine nachdenkliche Person sind.Ich weiß, dass viele andere in unserer Branche nicht sehr gut über Inhaltsersteller nachdenken.Ich denke, verschiedene Arten von Menschen werden sehr unterschiedlich sein.
In Bezug auf den fairen Gebrauch denke ich, dass wir nach dem aktuellen Gesetz eine sehr vernünftige Position haben, aber ich denke, AI ist so anders.Aber für Dinge wie Kunst müssen wir anders denken.
Angenommen, Sie lesen eine Reihe von Mathematik online und lernten, wie man Mathe macht. Ich denke, das scheint den meisten Menschen kompromisslos zu sein.Dann gibt es eine andere Gruppe von Menschen, die möglicherweise unterschiedliche Meinungen haben.Um nicht zu lang zu sein, werde ich dieses Problem nicht ausführlich besprechen.
Ich denke, es gibt eine Art von Menschen, die sagen würden, dass es ein breites menschliches Wissen gibt, Sie können sagen, wenn Sie lernen, das heißt, offene Felder und dergleichen, wenn Sie Pythagoras Theorem lernen.Dies ist ein Ende des Spektrums.Ich denke, das andere Extrem des Spektrums ist Kunst, vielleicht sogar ein bisschen genauerer. Ich würde sagen, es ist so, als würde es ein System sind, das Kunst im Stil oder Ähnlichkeit eines anderen Künstlers produziert, was wahrscheinlich das extremste ist.Dann gibt es in der Mitte des Spektrums viele Situationen.
Ich denke, der Schwerpunkt der Diskussion lag in der Vergangenheit auf Schulungsdaten, aber da der Wert von Trainingsdaten abnimmt, wird sich die Diskussion zunehmend dem, was beim Argumentieren passiert.Und was das System tut, greift auf Informationen im Kontext in Echtzeit oder in Echtzeit zu oder über ähnliche Maßnahmen, was beim Argumentieren passiert und wie neue Wirtschaftsmodelle mehr diskutiert werden.
Wenn Sie zum Beispiel sagen, wenn Sie zum Beispiel sagen, schreiben Sie ein Lied für mich im Stil von Taylor Swift, auch wenn das Modell noch nie mit Taylor Swift -Songs trainiert wurde, haben Sie immer noch die Frage, d. H. Die Das Modell hat möglicherweise Artikel über Taylor Swift gelesen, die wahrscheinlich ihr Thema kennen, was Taylor Swift bedeutet.Die nächste Frage ist, wenn dieses Modell noch nie mit Taylor Swift -Songs trainiert wurde, sollten wir dies zulassen?Wenn ja, wie sollte Taylor Swift entsprechend bezahlt werden?
Ich denke, zuerst sollte es in diesem Fall eine Option geben, d. H. Eine Option zum Beitritt oder zum Ausscheiden, und dann sollte es ein Wirtschaftsmodell geben.Nehmen Sie Musik als Beispiel aus historischer Perspektive, hier sind einige interessante Dinge zu sehen, das heißt, die Probenahme und wie die Wirtschaftlichkeit in Bezug auf die Probenahme funktioniert.Es ist genau das gleiche, aber es ist ein interessanter Ausgangspunkt.
Sam, lass mich das herausfordern.
Was ist der Unterschied in dem Beispiel, das Sie gegeben haben?Das Modell lernt die Struktur, den Rhythmus, die Melodie, die Harmonie, die Beziehung des Songs, entdeckt alle zugrunde liegenden Strukturen, die die Musik erfolgreich machen, und verwendet dann Trainingsdaten, um neue Musik zu erstellen.Und Menschen hören viel Musik, ihr Gehirn verarbeitet und baut alle gleichen Vorhersagemodelle auf, und dies sind die gleichen Entdeckungen oder Verständnisse.Was ist der Unterschied hier?Warum Sie sagen, dass der Künstler vielleicht einzigartig belohnt werden sollte, ist es kein Stichprobenfall, Sie sind keine KI ohne Ausgabe, er speichert keine tatsächlichen Original -Songs im Modell.
Ja, lernen Sie Struktur.
Ich versuche also nicht, das zu betonen, weil ich zustimme, genauso wie Menschen von anderen Menschen inspiriert sind.Ich meine, wenn Sie sagen, dass Sie ein Lied im Taylor Swift-Stil für mich schreiben.
Ich verstehe.Ich denke, dort werden die Tipps verwendet, um einige Künstler auszunutzen.
Ich persönlich denke, dass dies eine andere Situation ist.
Möchten Sie das Modell selbst trainieren lassen, indem Sie den gesamten Musikkorpus verwenden, der von Menschen geschaffen wurde, um das Musikmodell zu trainieren, ohne Lizenzgebühren an die Künstler, die in die Musik eingetreten sind, Lizenzgebühren zu zahlen?
Dann können Sie den Künstler nicht um bestimmte Tipps fragen, Sie können sagen, hey, gib mir einen coolen Pop -Song, dieses Lied ist ziemlich modern und erzählt eine herzzerreißende Geschichte mit der Stimme einer Frau
Wir haben beschlossen, zu diesem Zeitpunkt keine Musik zu machen.Ein Teil des Grundes ist, wo Sie die Linie zeichnen.
Ich habe mich kürzlich mit ein paar Musikern getroffen, die ich so sehr bewundere und nur über diese Extreme sprechen wollte, aber selbst in dieser Welt, wenn wir gehen, sagen wir, wir zahlen 10.000 Musiker, um eine Gruppe von Musik zu kreieren, nur um eine zu machen, um eine zu machen Tolles Trainingset, Musikmodelle lernen alles über mächtige Songstrukturen.Was macht gute, eingängige Beats und alles andere.Und trainieren Sie dies einfach, vorausgesetzt, wir können immer noch großartige Musikmodelle machen, vielleicht können wir es.Ich habe das Gefühl, dass ich es vor einem Musiker als Gedankenexperiment posiere.Und sie gut, zu dieser Zeit konnte ich dies in keinem Prinzip einsetzen.Ich mag es jedoch immer noch nicht.Das ist nicht unbedingt ein Grund, dies nicht zu tun.Aber das ist.
Haben Sie die Anzeigen von Apple, vielleicht gestern oder so ähnlich, gesehen, alle menschliche Kreativität in ein sehr dünnes iPad zu komprimieren?
Was denkst du darüber?
Die Leute sind sehr aufgeregt darüber.
Ja.Die Reaktion ist stärker als Sie denken.
Ich bin offensichtlich sehr optimistisch in Bezug auf künstliche Intelligenz, aber ich denke, es gibt etwas Schönheit in menschlicher Kreativität und menschlichem künstlerischem Ausdruck.Dies ist großartig für eine KI, die in der wissenschaftlichen Forschung besser abschneiden kann.Wenn KI jedoch den tiefen und schönen kreativen Ausdruck von Menschen erreichen kann, müssen wir uns darüber im Klaren sein, wie dies passieren wird.Es wird ein Werkzeug, das uns zu höheren kreativen Höhen führt.Aber ich denke, wir müssen Wege finden, dies zu tun, um den Geist zu bewahren, den uns alle wichtig sind.
Ich denke, Ihre Handlungen sind sehr überzeugend.Wir versuchen, die Charaktere in Star Wars in Dall-e zu erstellen.Wenn Sie Darth Vader fragen, wird es sagen, hey, das können wir nicht.Ich denke, Sie haben intern ein rotes Team gegründet oder Sie können es so nennen, wie Sie möchten.Wir haben es versucht.Ja, Sie erlauben den Menschen nicht, das geistige Eigentum anderer Menschen zu benutzen.Sie haben diese Entscheidung getroffen.
Wenn Sie es nun bitten, eine Jedi -Bulldogge oder eine Sith Lord Bulldog (was ich getan habe) zu machen, wird es meine Bulldogge in eine Sith -Bulldogge verwandeln.
Es gibt eine interessante Frage, was Sie gesagt haben, ja.Wir haben gestern etwas namens Normen veröffentlicht und versucht zu veranschaulichen, wie sich unser Modell verhalten sollte.Dies ist eine schwierige Aufgabe.Dies ist ein sehr langes Dokument.Es ist sehr schwierig, genau anzugeben, wo sich jeweils die Grenze angeben soll.Ich denke, dies ist eine Diskussion, die mehr Eingaben erfordert.
Die Idee des Sith-Lords, des Sith-Stils oder Jedi ist zu diesem Zeitpunkt wie ein Teil der Kultur, und dies sind harte Entscheidungen.
Ja, ich denke du hast recht.Die Musikindustrie wird diese Gelegenheit berücksichtigen, Taylor Swifts Songs zu ihnen zu machen.Dies ist Teil der vierteiligen Fair-Use-Tests, die neue Innovationen in der vorhandenen Kunst nutzen können.Disney hat ein Argument, hey, wenn Sie eine Sora-Version von Ashoka oder Obi-Wan Kenobi machen wollen, ist das die Chance von Disney.Dies ist eine großartige Partnerschaft für Sie.
Ich glaube, ich markiere diesen Teil als KI und Gesetz.
Lassen Sie mich also eine Frage auf höherer Ebene stellen.Was bedeutet es, wenn Menschen sagen, dass die künstliche Intelligenz reguliert wird?Sie können auch die neu vorgeschlagenen Vorschriften in Kalifornien kommentieren, wenn Sie es vorziehen.
Ich bin sehr besorgt darüber.Es gibt viele vorgeschlagene Vorschriften, aber die meisten Vorschriften, die ich über Kalifornien sehe, sind mir Sorgen.Ich mache mir auch Sorgen, dass Staaten es selbst tun werden.
Wenn Leute sagen, dass sie KI regulieren wollen, denke ich nicht, dass sie eine bestimmte Sache meinen.Ich denke, einige Leute werden das Ganze verbieten.Einige Leute werden sagen, dass es nicht Open Source sein dürfte und verlangen, dass es Open Source ist.Ich interessiere mich am meisten, dass ich denke, dass jemand sagen wird, schau, ich könnte mich irren.Ich gebe zu, dass dies eine zukunftsgerichtete Aussage ist.Und diese Aussagen zu machen ist immer gefährlich.Aber ich denke, in naher Zukunft wird es einen Tag geben, an dem wir nicht über Jahrzehnte sprechen.Für diese Systeme führen wir ebenfalls die globale Aufsicht über Dinge wie Atomwaffen oder synthetische Organismen durch, die sehr negative Auswirkungen haben können, die weit über den Bereich eines Landes hinausgehen können.Ich freue mich darauf, eine internationale Institution zu sehen, die die leistungsstärksten Systeme untersucht und sicherstellen, dass angemessene Sicherheitstests durchgeführt werden.Diese Systeme entkommen weder automatisch noch verbessern sie sich selbst usw.
Die Kritik daran ist jedoch, dass Sie über die Ressourcen verfügen, um zu gefallen, Lobby, teilzunehmen, Sie haben enge Beziehungen zu Politikern und für Startups, trotz ihrer Begeisterung und ihrer Investition haben sie nicht genug Ressourcen, um mit diesem Problem umzugehen.Dieses Phänomen der regulatorischen Gefangennahme, wie unser Freund Bill Gurley im letzten Jahr in seiner Rede betonte.
Vielleicht können Sie dieses Problem direkt lösen.Ich wäre damit zufrieden, wenn wir uns nur auf Modelle konzentrieren, die auf Computern im Wert von mehr als 10 Milliarden US -Dollar oder mehr als 100 Milliarden US -Dollar oder irgendetwas anderem geschult sind.Dies ist eine Zeile, die ich akzeptieren kann.Ich glaube nicht, dass dies Startups aufsichtliche Belastung belastet.
Wenn Sie also über den Atomrohstoff verfügen, um eine Atombombe herzustellen, können Sie wie eine kleine Anzahl von Menschen eine Analogie wie einen Atominspektor verwenden.Ich denke, das ist ein interessanter Punkt.
Kann ich noch etwas sagen?sicherlich.Ich bin sehr nervös wegen der Überregulierung hier.Ich denke, wir können etwas falsch machen, wenn wir zu viel tun oder es sogar ein wenig übertreiben.Ich denke, wir tun nicht genug und wir können falsch gehen.Aber ich denke, ein Teil des Grundes ist … jetzt haben wir in anderen Bereichen die Überprüfung der Regulierung oder Kontrolle wirklich schlecht.
Und vielleicht wird nichts passieren.Aber ich denke, es ist Teil unserer Pflicht und Mission, darüber zu sprechen, was wir für möglich halten und was getan werden muss, um dies zu erreichen.
Sam, die Herausforderung besteht darin, dass wir Gesetze und Vorschriften haben, um die Menschen und die gesamte Gesellschaft zu schützen.
Die von uns entwickelnden Vorschriften geben den Regierungen jedoch das Recht, Geschäftsgeheimnisse einzugeben und zu prüfen.Wir haben noch nie Vorschriften dieser Ebene gesehen.Grundsätzlich erfordern die von Kalifornien und einige Bundesgesetze vorgeschlagenen Gesetzgebung im Grunde genommen staatliche Audits der Parameter und Gewichte eines Modells, einer Audit -Software, der Prüfungs- und Überprüfungsmodelle.Dann benötigen Sie ihre Häkchen, um es für den kommerziellen oder öffentlichen Gebrauch einzusetzen.
Für mich fühlt es sich an, als würden wir versuchen, Regierungsbehörden zu kontrollieren, um Angst zu erzeugen.Weil Menschen schwer zu verstehen sind und Angst vor ihren Auswirkungen haben möchten, wollen sie es kontrollieren.Und die einzige Möglichkeit, es zu kontrollieren, besteht darin, mir die Prüfungsrechte zu geben, bevor ich sie veröffentliche.
Ja, sie wissen nichts.Diese Leute wissen nichts.So wie diese Dinge geschrieben werden, Sie lesen sie, Sie werden verrückt werden.Denn wie Sie wissen, werden diese Dinge in 12 Monaten sowieso keinen Sinn ergeben.Ich habe auf einen Agenturansatz gedrängt, um das Gesamtbild zu lösen, anstatt es wie das Gesetz zu schreiben,
Ich denke nicht, dass auch wenn diese Menschen Experten der realen Welt sind, ich glaube nicht, dass sie in 12 oder 24 Monaten richtig damit umgehen können.Ich glaube nicht.Wir werden diese Richtlinien überprüfen, einen umfassenden Überblick über alle Ihre Quellcode durchführen und alle Ihre Gewichte einzeln anzeigen.Ich denke, es gibt viele verrückte Vorschläge, insbesondere wenn das Modell ständig umgeschrieben wird und dynamischer wird.Deshalb denke ich, dass es Sinn macht.
Bevor das Flugzeug zertifiziert ist, werden wir eine Reihe von Sicherheitstests durchführen, um das Flugzeug durch diese Tests zu führen.Dies unterscheidet sich völlig vom Prozess des Lesens des gesamten Codes.Wir überprüfen die Ausgabe des Modells und schauen nicht auf das Innere des Modells.
Ich denke, es ist sinnvoll, Sicherheitstests durchzuführen.
Also, Sam, wie sollen wir das erreichen?
Ich bin hier nicht nur Openai, sondern auch die gesamte Branche und sogar die Menschen.Ich mache mir Sorgen, dass wir, wenn wir diese Technologien einschränken, die ein großes Potenzial für die Entwicklung und große Vorteile für die Menschheit haben, in das dunkle Zeitalter fallen.Wie sollen wir das ändern und das erreichen?
Da sich die Regierungsebene zu schnell entwickelt, scheinen die Leute die falsche Richtung zu haben, und ich mache mir Sorgen darüber.Auf dieser Grundlage sind Sam beispielsweise Lamas architektonische Entscheidungen sehr interessant, da wir Lama mit so wenigen Einschränkungen wie möglich wachsen lassen.Wir haben eine andere Sache, wir nennen es den Lama -Wachmann, der als diese schützenden Leitplanken ausgelegt ist.
Was ist Ihrer Meinung nach die richtige Art, das Problem zu lösen?
Aus der Stärke des aktuellen Modells zu urteilen, wird es definitiv einige Probleme geben.Ich möchte diese nicht unterschätzen oder sie ernst nehmen.Aber ich mache mir keine Sorgen über katastrophales Risiko, das das Modell der GPT-4-Ebene mit sich bringt.Ich denke, es gibt viele sichere Möglichkeiten, es bereitzustellen.
Wenn wir das sagen, werden wir vielleicht mehr Gemeinsamkeiten finden.Ich mag dieses konkrete Beispiel, dass Modelle technisch fähig sind, und selbst wenn sie nicht so verwendet werden, können sie rekursiv selbstverbessert oder selbstdesign werden und biologische Waffen einsetzen, oder ähnliches.Oder ein neues Modell.Das ist der entscheidende Punkt der rekursiven Selbstverbesserung.
Wir sollten Sicherheitstests der Ausgabe der Modelle auf internationaler Ebene durchführen, da diese Modelle angemessene Möglichkeiten haben, dort eine Bedrohung zu stellen.Ich denke nicht Bedrohung für diese Dinge.Ich denke, es gibt viele sichere Möglichkeiten, solche Modelle zu veröffentlichen.
Aber wenn große Verluste eine ernsthafte Möglichkeit sind, wie ein Flugzeug oder ein anderes Beispiel, denke ich, dass wir gerne eine Art Test -Framework haben, wie wenn ich in das Flugzeug stehe Angenommen, es ist sicher.
Sam, es gibt jetzt viele Bedenken hinsichtlich der Beschäftigung.Sie haben viele Tests über UBI gemacht, als Sie in YC waren.Ihre Ergebnisse werden bald herauskommen.Ich sage nur, dies ist eine Studie, die vor fünf Jahren endete oder begonnen hat.Zuerst gibt es Beta-Forschung, dann langfristige Forschung.Was haben Sie jedoch aus all dem gelernt?
Warum hast du alles angefangen?Können Sie erklären, warum Sie mit dem UBI (UBI) über das universelle Basic -Einkommen nachgekommen sind?
Wir haben 2016 angefangen, darüber nachzudenken, und ungefähr zur gleichen Zeit nahmen wir die KI ernst.Theoretisch bedeutet das Ausmaß der Veränderung der Beschäftigung in der Gesellschaft und in der Wirtschaft und das Potenzial für eine tiefere Bedeutung (z. B. wie sich der soziale Vertrag verändern wird), dass wir eine Menge Forschung durchführen sollten, um zu untersuchen, wie diese neuen Veränderungen unterschiedlich sind Ideen.
Ich muss zugeben, dass ich kein begeisterter Befürworter des Umgangs mit den meisten Richtlinien durch die Regierung bin, die darauf abzielen, den Armen zu helfen.Ich neige dazu zu glauben, dass sie, wenn Sie Menschen Geld geben können, die richtigen Entscheidungen treffen und der Markt funktionieren wird.Ich unterstütze sehr, dass ich den minimalen Lebensstandard erhöhen, die Armut verringern und sogar die Armut beseitigen.Aber ich bin daran interessiert, ob es bessere Möglichkeiten gibt als das, was wir für das vorhandene soziale Sicherheitsnetz ausprobiert haben und wie wir mit Dingen umgehen können.
Ich denke nicht, dass das Geld Geld alle Probleme lösen wird, und natürlich wird es die Menschen natürlich nicht glücklich machen.Aber es kann einige Probleme lösen und den Menschen eine bessere Perspektive geben, um sich selbst zu helfen.Ich bin sehr interessiert daran.
Ich denke, jetzt sehen wir einige Ansätze, also war das Jahr 2016 schon lange her.Jetzt, da wir einige Möglichkeiten sehen, wie sich AI entwickelt, frage ich mich, ob es etwas Besseres zu tun gibt als das traditionelle UBI -Konzept.Zum Beispiel frage ich mich, ob die Zukunft eher ein allgemeines Basic -Computing als das allgemeine Grundeinkommen sein wird.Jeder erhält einen Teil der GPT-7-Berechnungen, die er verwenden kann, er kann weiterverkaufen, sie können an jemanden für Krebsforschung spenden.Aber was Sie bekommen, ist nicht der Dollar, sondern ein Teil der Produktivität.Ja, Sie haben etwas Produktivität.
OK, lass uns über Klatsch sprechen.Kehren wir also zum November letzten Jahres zurück.Was genau ist passiert?
Wenn Sie bestimmte Fragen haben, würde ich gerne antworten, vielleicht sagte ich, wir werden irgendwann darüber sprechen.
Das ist also der Punkt.was ist passiert?Sie werden gefeuert und Sie kommen zurück, es ist eine Gerichtsverzeichnis.Stach Ihnen jemand in den Rücken?Haben Sie das ultimative Ziel der künstlichen Intelligenz (AGI) gefunden?Was ist passiert?Dies ist ein sicherer Raum.
Ich wurde gefeuert.Ich sagte, ich sei zurück und war ein bisschen unsicher, was ich tun wollte, weil ich sehr verärgert war.Mir wurde klar, dass ich Openai und die Leute dort wirklich mag, ich werde zurück sein und ich weiß, dass es schwierig sein wird.Das ist schwieriger als ich dachte.Aber ich dachte damals, ok, kein Problem.Ich stimme zu, zurück zu kommen.Es dauerte eine Weile, bis das Board es herausfand.Dann versuchten wir irgendwie, das Team zusammenzubringen und Dinge für unsere Kunden weiter zu tun.Dann werden andere Pläne entwickelt, und der Vorstand beschließt, einen anderen Interim -CEO einzustellen.Oh mein Gott, wie heißt der Kerl?Seine Anwesenheit ist wie die Angst, Menschen zu erschrecken, was großartig ist.Ich habe nur gute Dinge zu sagen.
Also, wo hast du etwas über dein Feuer gelernt?
Ich habe das Wochenende in einem Hotelzimmer in Las Vegas gelernt.Ich bekam eine SMS und sie sagten, feuern und holen sie ab.Ich glaube, Sie hatten diese Situation, bevor ich versuchte, darüber nachzudenken, ob ich gefeuert wurde.Ich glaube nicht, dass ich das satt habe.Ja, ich habe eine Textnachricht erhalten.Nein, es ist nur eine seltsame Sache.
Also, wer hat diese Textnachricht gesendet?
Eigentlich habe ich diesen Text in der Nacht zuvor bekommen.Dann sprach ich mit dem Verwaltungsrat.Und dann ist es.Dann habe ich es irgendwie bekommen und dann wurde alles verrückt.Mein Telefon war zu diesem Zeitpunkt nicht verfügbar.Es zittert nur weiter, z. B. Textnachrichten, Telefonanrufe.
Grundsätzlich wurden Sie aus einem Tweet gefeuert.Dies ist während der Trump -Administration mehrmals passiert.
Sie rief mich vor dem Twittern an, was für sie großartig war.Dann verbrachte ich mehrere Stunden in meinem Hotelzimmer in einem völlig lustigen Zustand.Ich war damals sehr verwirrt und wusste nicht, was ich tun sollte.Zu seltsam.
Dann flog ich nach Hause, wahrscheinlich im Flugzeug, gegen 15 Uhr.Sie wissen immer noch, das verrückte Telefon klingelt weiter.Ich habe einige Leute persönlich getroffen.In dieser Nacht dachte ich, ok, ich werde Agi -Recherchen machen und ich freue mich sehr über die Zukunft.Ja, ich habe die Wahl.
Am nächsten Morgen hatte ich einen Anruf bei mehreren Vorstandsmitgliedern, um die Probleme zu besprechen, die zu einigen weiteren Tagen des Chaos führten.Dann hatte ich das Gefühl, dass die Angelegenheit gelöst wurde.Nun, es gibt viele verrückte Dinge in der Mitte.
Wie viele dieser gemeinnützigen Vorstandsmitglieder sind aufgrund dieser gemeinnützigen Vorstandsmitglieder?
Nun, wir haben nur ein gemeinnütziges Vorstand.Sie sind also alle gemeinnützige Vorstandsmitglieder.Der Verwaltungsrat wurde auf sechs reduziert.Dann entfernten sie Greg aus dem Brett und feuerten mich.
Gibt es also einen kulturellen Konflikt zwischen Menschen mit nur gemeinnützigen Erfahrung und denen mit unternehmerischen Erfahrungen im Vorstand?Wenn Sie möchten, können Sie vielleicht die Motivation hinter der Aktion teilen, alles, was Sie teilen können.
Ich denke, es gab immer kulturelle Konflikte.Offensichtlich sind nicht alle Vorstandsmitglieder meine Favoriten, aber ich habe viel Respekt vor ihrer Ernsthaftigkeit gegenüber AGI und der Bedeutung der korrekten Umgang mit KI -Sicherheit.Auch wenn ich mit ihren Entscheidungen und Handlungen völlig nicht einverstanden bin, habe ich nie an ihrer Integrität oder ihrem Engagement für eine gemeinsame Mission für eine sichere und vorteilhafte AGI zweifelt.
Ich denke, sie haben die richtige Entscheidung im Prozess getroffen oder wussten, wie man alles ausgleichen kann, was Openai richtig machen muss?NEIN.Aber ich denke, sie haben Absichten, haben AGI -Skala -Absichten und machen es gut.
Lassen Sie mich Ihnen diese Frage stellen.Openais Mission ist es also eindeutig, Agi zu schaffen, und ich denke, es macht wirklich Spaß.Viele Menschen denken, wenn wir künstliche Intelligenz (AGI) schaffen, wäre dies das unerwartete Ergebnis von etwas, das schief geht.Sie hatten äußerst Angst davor.Openai sieht es jedoch als praktische Mission.Werden Sie sich so fürchten, was Sie tun?Ich verstehe, dass dies Motivation erzeugen kann, aber wie können Sie dies in Einklang bringen?Ich frage mich, warum das eine Mission ist?
Ich denke, zunächst möchte ich antworten, dass dies wirklich viel Angst auslöst.Ich denke, viele Menschen auf der Welt haben große Angst vor AGI, sogar der aktuellen KI, und sind auch sehr aufgeregt über seine Richtung, noch ängstlicher und aufgeregter.Wir kämpfen damit.Aber ich finde das unvermeidlich.Ich denke auch, dass es enorme Vorteile bringen wird.Aber wir müssen einen Weg finden, um auf vernünftige Weise dorthin zu gelangen.Viele Dinge ändern sich und Veränderungen fühlen sich unwohl.Wir haben also viel zu tun.
Kann ich eine andere Frage stellen?Sie haben eines der heißesten Unternehmen geschaffen.Und Sie sind in der Tat in der Mitte.Aus wirtschaftlicher Sicht vermeiden Sie jedoch alle diese Werte, was sehr einzigartig ist.Kannst du es uns sagen?
Ja, ich wünschte, ich hätte zu dieser Zeit das Eigenkapital, also musste ich diese Frage nicht beantworten.Wenn ich in die Vergangenheit zurückkehren könnte …
Warum geben sie Ihnen jetzt keinen Stipendium?Warum gibt Ihnen der Verwaltungsrat nicht eine große Option, die Sie verdienen?Was war die Entscheidung zu dieser Zeit?Warum ist das so wichtig?
Der ursprüngliche Grund für die Entscheidung zu dieser Zeit war nur die Struktur unserer gemeinnützigen Organisation.Aus motivierender Sicht ist dies großartig.Aber hauptsächlich braucht unser Board die meisten selbstlosen Direktoren.Ich finde das gut.Ich brauche jetzt kein Eigenkapital.Ich bin irgendwie … aber ich hoffe …
Aber auf diese seltsame Weise leiten Sie jetzt eine Firma, ja, es schafft diese seltsamen Fragen wie Ihre wahre Motivation …
Total richtig.
Es ist so tiefgreifend … eine Sache, die mir aufgefallen ist, ist, dass es für die Leute schwer fällt, sich vorzustellen, dass sie „Ich brauche nicht mehr Geld“.Ich weiß auch, wie unempfindlich der Ton ist … Ich denke, die Leute denken, es ist ein kleines Hintergedanken.Ja.Angenommen, was macht er, um Geld zu verdienen?Wenn ich nur sagte, ich werde mit Openai Billionen Dollar verdienen, denke ich, dass jeder entspannter wird und das mich nicht rettet.Dies spart viele Verschwörungstheorien.
Sam, du bist ein großer Deal.Ich habe deine gesamte Karriere verfolgt.Sie sind sehr gut darin.Sie haben all diese Beziehungen.Sie sind wirklich gut darin, Spenden zu sammeln.Sie sind in dieser Hinsicht großartig.Sie haben Johnny Ivy, Sie investieren in das Unternehmen, Sie bekommen den Ball, Sie sammeln 7 Billionen US -Dollar, um das Fab, all das zu bauen.All diese Faktoren kombiniert zusammen,
Ich bin hier nur ein Witz.Offensichtlich haben Sie keine 7 Billionen US -Dollar gesammelt, was möglicherweise nur Marktkapitalisierung oder so sein könnte.Wenn Sie dies jedoch beiseite legen, ist der Schlüssel, dass Sie all diese Transaktionen durchgeführt haben.Ihr Misstrauen gegenüber Ihnen liegt an der Motivation, was Ihre Motivation ist?Sie sind endlich gegangen, was sind die Möglichkeiten im OpenAI?Welche Möglichkeiten sollten Sam gehören, und die dieser gemeinnützigen Organisationen vertrauen Ihnen nicht?ist das so?
Wenn wir Geräteunternehmen waren oder an einigen Chip -Manufacturing -Unternehmen gearbeitet haben, waren diese Projekte von SAM nicht.Genau wie Openai dieses Eigenkapital bekommen.Sie werden es bekommen.
Dies ist jedoch nicht die öffentliche Meinung.Es ist nicht die Meinung von Menschen, die den ganzen Tag über diese Dinge kommentieren.Es ist fair, weil wir diese Dinge noch nicht angekündigt haben, weil es noch nicht getan ist.Ich glaube nicht, dass die meisten Menschen auf der Welt darüber nachdenken.Aber ich bin damit einverstanden, dass dies unter technischen Kommentatoren viele Verschwörungstheorien ausgelöst hat.
Wenn ich in die Vergangenheit zurückgehen könnte, würde ich sagen, lassen Sie mich das klar in Fairness machen.Dann mache ich es immer noch, weil ich mich wirklich um Agi kümmere und ich denke, es ist der interessanteste Job der Welt.Aber zumindest wird es alle warnen.
Was ist ein Chipprojekt?Das sind 7 Billionen Dollar.Woher kamen diese 7 Billionen Dollar?
Ich weiß nicht, woher das kommt.Eigentlich weiß ich es wirklich nicht.Ich denke, die Welt braucht eine stärkere Infrastruktur für künstliche Intelligenz, die die Anzahl der derzeit geplanten Bauarbeiten weit überschreitet, und die Kostenstruktur ist ebenfalls unterschiedlich.Die spezifische Art, wie wir dort spielten, versuchten wir immer noch, es herauszufinden.
Was magst du an OpenAs Organisationsmodell?Ist es wie eine schnelle Aktion, die norm, hoch fragmentiertes kleines Team brechen?Oder ist es mehr von dieser organisierten Anstrengung, die Sie planen müssen, weil Sie einige extreme Situationen verhindern möchten?
Dies liegt nicht daran, dass wir mehr organisiert sein müssen, um extreme Situationen zu verhindern.Da diese Systeme jedoch sehr komplex sind, sind konzentrierte Wetten sehr wichtig.Bevor dies dies tut, haben Sie beispielsweise Unternehmen wie DeepMind, all diese verschiedenen Teams, die diese verschiedenen Dinge tun.Sie verbreiten die Wetten.Sie lassen Openai sagen, dass wir im Grunde die gesamte Firma hart daran arbeiten, die GPT-4 zusammen zu machen.Dies ist unvorstellbar, wie ein AI -Forschungslabor betrieben wird.Aber ich denke, zumindest funktioniert es für uns.Das liegt nicht daran, dass wir extreme Situationen vermeiden wollen, sondern weil wir Ressourcen konzentrieren und diese großen, schwierigen und komplizierten Dinge tun wollen.In der Tat gibt es viel Koordination in unserer Arbeit.
OK Sam, ich verstehe, dass du gehen musst.Sie haben in der vergangenen Stunde großartige Arbeit geleistet.Willkommen, wenn ich jederzeit zurückkomme, ich freue mich sehr, mit Ihnen zu sprechen.Ja, es war ein sehr interessantes Gespräch.Danke, dass Sie gekommen sind,
Sam, danke auch für deine Ehrlichkeit.Wir diskutieren dieses Problem seit mehr als einem Jahr.Das ist erstaunlich und ich bin sehr dankbar dafür.
Ich freue mich darauf, nach der nächsten großen Pressekonferenz zurückzukommen, damit ich direkter über einige dieser Dinge sprechen kann.
Ja, Sie haben den Zoom -Link erhalten.Der gleiche Zoom -Link wird jede Woche verwendet, und gleichzeitig können Sie jederzeit beitreten (lacht).
