
In den letzten Jahren, in denen ich in diesem U -Boot veröffentlicht habe, habe ich eine Verschiebung in der Reaktion von Menschen auf alle mit KI reagierten Inhalte festgestellt.
Verachtung, Ekel, Frustration, Wut … im Allgemeinen sind das die Hauptgefühle. ‚Ai Slop‘ wird mit Gift herumgeworfen, und dieses Gefühl wird verwendet, um die Rolle zu entlassen, die AI in Zukunft in jedem Thread spielen kann, der sie berührt.
Darüber hinaus sehe ich immer wieder Menschen, die so gut wie nichts über die Technologie und den gegenwärtigen Spielstand wissen, sagen, mit allen Vertrauen (und der Zustimmung dieser Gemeinschaft).
Sehen. Ich verstehe es.
Ich habe schon sehr lange über KI gesprochen und habe die Schaltwechsel von Overton gesehen. Früher war Agi ein verrücktes Fringe -Konzept, über das wir uns in unseren Leben nicht wirklich Sorgen machen müssten.
Dies ist nicht der Fall. Wir müssen das ernst nehmen. Ich denke jeder, der verzweifelt versucht diese Idee zu entlassen, dass wir in den nächsten Jahren eine massiv transformative KI (die ich AGI als Kurzform bezeichnen werde, bevor ich in Definitionen komme). Ich werde heute meinen Fall machen – und ich werde es tun halten diesen Fall machen. Wir haben keine Zeit mehr, dies zu vermeiden.
Lassen Sie mich zunächst damit beginnen, wie ich Agi grob definiere.
AGI ist grob als eine digitale Intelligenz definiert, die Aufgaben ausführen kann, bei denen die Intelligenz erfolgreich ausgeführt werden muss, und dies auf eine allgemeine Weise, die generell ist, dass ein Modell Tools entweder verwenden oder erstellen kann, um eine Vielzahl von Aufgaben zu erledigen. Normalerweise betrachten wir Aufgaben, die digital existieren, einige Menschen auch eine verkörperte Intelligenz (z. B. AI in einem Roboter, der Aufgaben in der realen Welt ausführen kann) als Teil der Anforderung. Ich denke, das ist eine sehr schnelle Folge von rein digitaler Intelligenz.
Jetzt möchte ich den Fall machen, dass dies geschieht bald. Wie… 2-3 Jahre oder weniger. Ein Teil der Herausforderung ist, dass dies nicht eine binäre Sache ist, die sich einschaltet – dies wird ein schrittweise Prozess sein. Wir sind tatsächlich bereits in diesem Prozess.
Hier ist, was ich denke, wird ungefähr bis zum Jahr passieren.
2025
In diesem Jahr werden wir Modelle sehen, die wir bei Aufgaben absenden können, die wahrscheinlich mehr als 1 Stunden dauern werden, und viel Nachforschungen und Iteration. Diese Systeme erhalten eine Eingabeaufforderung, und erforschen und recherchieren, den Grund über und erstellen dann iterativ ganze Anwendungen für die Präsentation ihrer Ergebnisse – mit Datenbanken, mit Verbindungen zu externen APIs, mit Hosting – die Arbeiten.
Wir haben dies bereits, ein gutes Beispiel für den Schwung in dieser Richtung ist Manus – https://www.youtube.com/watch?v=K27Dimbcsuw.
In diesem Jahr wird das Werkzeug zunehmend anspruchsvoll und wir werden wahrscheinlich die nächste Generation von Modellen sehen – die Modelle GPT5 ERA. In Bezug auf die Softwareentwicklung wird die gesamte Branche (meine Branche) ins Chaos geworfen. Wir sehen heute bereits die Anfänge davon. Die Systeme werden nicht perfekt sein, daher wird es viele Schmerzpunkte geben, viele Beispiele dafür, wie es schief geht – aber das Versprechen wird da sein, da wir immer mehr Beispiele dafür haben werden, dass es richtig läuft und jemandem erhebliches Geld spart.
2026
Nächstes Jahr werden autonome Systeme wahrscheinlich die ganze Tage lang in der Lage sein, zu laufen. Die Schwärme von Modellen und Tools beginnen sich zu organisieren, und eine zunehmende Menge von dem, was wir im Web konsumieren, wird autonom generiert. Ich würde mich nicht überraschen, wenn wir bis Ende 2026 bei 25-50% liegen. Inzwischen werden wir wahrscheinlich Modelle haben, die auch buchstäblich die besten Mathematiker der Welt sind und dazu verwendet werden können, das Feld autonom zu fördern. Ich denke, dies ist auch, wenn die KI -Forschung selbst eine eigene Automatisierung beginnt. Dies wird zu einer Explosion führen, da die großen Orgs und Regierungen einen erheblichen Teil des weltweiten Berusses für die Herstellung von Modellen biegen, die diesen Rechen besser ausnutzen und noch bessere Systeme aufbauen können.
2027
Ich habe Schwierigkeiten zu verstehen, wie dieses Jahr aussieht. Aber ich denke, dies ist das Jahr, in dem die Politik der Welt zu 90% auf KI ausgerichtet ist. Agi ist nicht mehr verspottet, wenn er laut erwähnt wird – zum Teufel sind wir heute fast da. Panik wird eingesetzt, da wir erkennen, dass wir uns in keiner Weise auf eine Post -Agi -Gesellschaft vorbereitet haben. Währenddessen wird der G/TPUs weiter summen, und wir sehen Roboterausführungen, die ziemlich fortschrittlich und fähig sind, wahrscheinlich von Modellen, die von KI geschrieben wurden.
————-
Ich weiß, dass viele von Ihnen das für verrückt halten. Es ist nicht. Ich kann einen Fall für alles machen, was ich hier sage. Ich kann auf eine Welle von Forschern, Politikern, Mathematikern, Ingenieuren usw. usw. verweisen – die alle den gleichen Alarm klingeln. Ich fordere die Menschen an, ihren verarschten Zynismus und den Endorphin -Ansturm zu überschreiten, der aus der Bestätigung Ihrer Kollegen entsteht, wenn Sie etwas als nichts als Hype und denken Wirklich lang und hart darüber, was es bedeuten würde, wenn das, was ich beschreibe, passieren.
Ich denke Genau genommen Experten hören.
Wenn Sie ein sehr einfaches Beispiel dafür sehen möchten, wie sehr dieses Thema ist –
Dies ist ein Interview in der vergangenen Woche mit Ezra Klein von der New York Times mit Ben Buchanan, der als Bidens Sonderberater für KI fungierte.
https://www.youtube.com/watch?v=btos-yq30
Sie beginnen dieses Interview von im Grunde genommen zu sagen, dass sie beide an vielen Diskussionen beteiligt sind, die für selbstverständlich halten, dass wir in den nächsten 2 bis 3 Jahren AGI haben werden, wahrscheinlich während Trumps Präsidentschaft. Agi ist ein umstrittener Begriff, und sie gehen das in diesem Podcast durch, aber das Kern davon überein mit der oben genannten Definition übereinstimmt.
Tl;
Agi kommt wahrscheinlich in weniger als 5 Jahren. Dies ist real, und ich möchte, dass die Leute aufhören, das Thema abzulehnen und es ernst zu nehmen, weil es zu wichtig ist, um zu ignorieren.
Wenn Sie Fragen oder Herausforderungen haben, teilen Sie sie bitte mit. Ich werde mein Bestes tun, um Beweise zu liefern, die meine Position unterstützen, während ich sie beantwortet. Wenn Sie mich sonst wirklich überzeugen können, versuchen Sie es bitte! Auch jetzt bin ich bis zu einem gewissen Grad offen für die Idee, dass ich etwas falsch verstanden habe … aber ich möchte, dass Sie verstehen. Dies war meine größte Leidenschaft in den letzten zwei Jahrzehnten. Ich habe Dutzende von Büchern zu diesem Thema gelesen, buchstäblich Hunderte von Forschungsarbeiten gelesen, 1 zu 1 Diskussionen mit Forschern geführt und in meinem Tag in meinem Job in den letzten 2 bis 3 Jahren jeden Tag Modelle verwendet. Das heißt nicht, dass all das bedeutet, dass ich es bin Rechts Über alles, aber nur, wenn Sie eine Frage haben und nicht die minimale Forschung zu diesem Thema durchgeführt haben, ist es wahrscheinlich nicht etwas, mit dem ich nicht vertraut bin.
"AGI" in the next handful of years in incredibly likely. I want to push you into taking it seriously
byu/TFenrir inFuturology
8 Kommentare
I’m going to say it’s unlikely and we’ve probably pushed llms to their limit already. I doubt they will get much better except maybe in efficiency as there’s nothing else to train them really.
Even if every one of these predictions came true, there’s little to no upside for anyone who has to work a job to survive. That’s why so many people hate AI.
If we have AGI it won’t be due to any advances in LLMs. It’ll be due to a massive project to create an artificial neural net with new technologies.
Do you have assets tied up in the AI bubble, by any chance?
I do take it seriously. And it needs to be all burned down. It’s like social media. It’ll be amazing for 5 years and then nothing but problems and once it’s out of the bag it WILL NOT go back in
I work on maybe the first or second most famous AI project currently, many many more people have interacted with my project than have interacted with ChatGPT, for instance. I have been in tech for 25 years. I wrote the first ML based application to go live at Bank of America in 2005, it was one of a few innovations that helped crash the global economy by reducing the time to get a mortgage approved within federal guidelines (razor thin approvals) from over a week to under 5 minutes in most cases. I have patents in this area that have expired (20 years), I have patents that have not expired. I come from a background to really understand the impact on a global/tech scale. I still believe we are one hundred to one thousand years from spontaneous synthetic thought that isn’t just a simple remix of 3-10 points of reference if I had to put a number to it, we are probably 1% of the way there. AGI is so incredibly complex compared to our most sophisticated model that I am pretty sure we will abandon it until we solve fusion.
That is not to say things won’t be heavily impacted by LLMs, but there is a limit to the amount of data a model can benefit from. The next decade will be about intentionally limiting data and ultra-specific models, and complex applications built around attempting to use multiple specialized models to solve problems, with a coordinating model which is just about picking which model to use for the next step… because generalized models so far start to buckle and fold in on themselves after a point. AGI probably looks like a huge library of models and a huge library of coordinating models as connective tissue. A neural network model where the neurons themselves are independent models. And we are taking trillions of dollars in electricity and silicon to get to that point, not to mention the actual data sourcing which is increasingly hard, and not for legal or copywrite reasons… there just isn’t enough high quality data in existence.
Until we get a model that can train itself based on observations instead of spoon-fed data, we are 1% of the way to AGI. The race after that breakthrough will be in instrumentation to improve the observation capabilities. Once we have proven results from unsupervised observational training… then we will be at 2%.
It seems like you are referring to agentification. I’m a layperson and to me it seems like duh of course an AI will be able to train itself and have a memory and make itself into a powerful entity, but it turns out those fundamental items present significant technical and resource challenges.
I am generally a bit of an AI doomer at least abstractly but I don’t think this gonna be the top issue in the next ~3 years (we will undoubtedly have created many more acute problems).
Must commend OPs conviction, even in the light of all the push back in comments and the barrage of down votes they’ve received. Must be exasperating
I don’t think people quite understand exponentiality – you sense that a lot of the resistance to the stated idea that we see today, stems from that.
For what it’s worth, I do too think that we must take it seriously and we will eventually, once we’re through the different stages of managing grief