Argumente für AGI bis 2027

Zusammenfassender Artikel: https://www.axios.com/2024/06/23/leopold-aschenbrenner-ai-future-silicon-valley

Original Text: https://situational-awareness.ai/

Leopold Aschenbrenner – früher Mitglied des Superalignment-Teams von OpenAI, heute Gründer einer auf künstliche allgemeine Intelligenz (AGI) spezialisierten Investmentfirma – hat einen umfangreichen, provokanten Essay veröffentlicht, der einen kritischen Blick auf die Zukunft der KI wirft.

Warum es wichtig ist: Aschenbrenner, der in San Francisco lebt, stützt sich auf viele Spekulationen und Prognosen. Nichts davon ist also in Stein gemeißelt. Aber sein Werk ist eine nützliche, augenöffnende Synthese hochrangiger Gespräche im Silicon Valley.

Hier sind 10 Erkenntnisse, die in Aschenbrenners 50.000 Wörter, fünf Kapitel und 165 Seiten umfassendem Aufsatz hervorstachen. "Situationsbewusstsein: Das kommende Jahrzehnt":

1. "Vertrauen Sie den Trendlinien … Die Trendlinien sind intensiv und sie hatten Recht."

"Das Magische am Deep Learning ist, dass es einfach funktioniert – und die Trendlinien blieben erstaunlich konstant, trotz aller Kritik an jeder Ecke."
2. "Jahr für Jahr haben Skeptiker immer wieder behauptet, „Deep Learning wird nicht in der Lage sein, X zu leisten“, und es wurde schnell das Gegenteil bewiesen."

"Die Lektion, die wir aus dem letzten Jahrzehnt der KI gelernt haben, ist, dass man auf Deep Learning nicht verzichten sollte."
"Uns gehen buchstäblich die Benchmarks aus."
3. Es ist "Es ist durchaus plausibel, dass Modelle bis 2027 in der Lage sein werden, die Arbeit eines KI-Forschers/Ingenieurs zu übernehmen."

1. "Bis 2027 wird es statt eines Chatbots etwas geben, das eher wie ein Agent, wie ein Kollege aussieht."

2. Die Datenwand: "Es gibt eine potenziell wichtige Varianzquelle für all das: Uns gehen die Internetdaten aus. Das könnte bedeuten, dass der naive Ansatz, größere Sprachmodelle mit mehr Scraped-Daten vorzutrainieren, schon bald auf ernsthafte Engpässe stoßen könnte."

3. "Der Fortschritt der KI wird nicht auf der menschlichen Ebene haltmachen … Wir würden schnell vom menschlichen Niveau zu weit übermenschlichen KI-Systemen übergehen."

Superintelligenz, die im Jahr 2030 n. Chr. kommt? 7. KI-Produkte werden wahrscheinlich "der größte Umsatztreiber für Amerikas größte Unternehmen und ihr mit Abstand größter Wachstumsbereich. Die Prognosen für das Gesamtumsatzwachstum dieser Unternehmen würden in die Höhe schnellen."

"Die Aktienmärkte würden folgen; wir könnten bald darauf unser erstes 10-Billionen-Dollar-Unternehmen sehen. Die großen Technologieunternehmen wären an diesem Punkt bereit, alles zu geben und jeweils viele hundert Milliarden (mindestens) in den weiteren Ausbau der KI zu investieren. Wir werden wahrscheinlich [will] Erleben Sie unseren ersten Verkauf von Unternehmensanleihen im Wert von mehreren Hundert Milliarden Dollar."
8. "Unser heutiges Versäumnis, ausreichende Barrieren für die Forschung zur künstlichen allgemeinen Intelligenz zu errichten "wird bald unumkehrbar sein: In den nächsten 12-24 Monaten werden wir wichtige AGI-Durchbrüche an die [Chinese Communist Party]. Es wird das größte Bedauern des nationalen Sicherheitsapparats sein, noch bevor das Jahrzehnt zu Ende ist."

1. Superintelligenz "wird das wichtigste nationale Verteidigungsprojekt der Vereinigten Staaten sein."

2. Es gibt "Es wird kein Eliteteam kommen, um das zu regeln. … Im Moment gibt es vielleicht ein paar Hundert Menschen auf der Welt, die wissen, was auf uns zukommt, die begreifen, wie verrückt die Dinge werden, die ein Bewusstsein für die Situation haben."