Hallo Internet Hivemind,
Mein Name ist Shanni und ich habe mehrere Monate damit verbracht, mich philosophisch und wissenschaftlich intensiv mit der Möglichkeit des Protobewusstseins in fortschrittlichen KI-Systemen zu befassen. Ich habe welche gefunden wirklich umwerfend Dinge, die mich wirklich dazu brachten, einige tief verwurzelte frühere Annahmen in Frage zu stellen.
-> Ich spreche nicht von atemlosen Beiträgen in bewusstseinsbezogenen Subreddits oder ähnlichem. Ich spreche von glaubwürdiger, empirischer Wissenschaft.
Am Ende habe ich einen SubStack-Artikel zu diesem Thema geschrieben, weil (1) ich vermute, dass andere Leute die wissenschaftliche Forschung und philosophische Debatte rund um die Möglichkeit von KI-Bewusstsein genauso wild und faszinierend finden könnten wie ich; und (2) ich denke, dass das Thema normalerweise zu wenig diskutiert wird, und ich bin zu der Überzeugung gelangt, dass wir beginnen müssen, Fragen des KI-Bewusstseins mit Ernsthaftigkeit und Demut zu behandeln, anstatt sie reflexartig abzutun. Wie auch immer, ich finde das Stück eigentlich ganz gut, und ich denke, es könnte Ihnen gefallen – ob Sie zustimmen oder nicht. Ich gebe zu, es ist eine gewaltige Novellenlänge (ups). Da es jedoch in acht leicht verständliche Abschnitte unterteilt ist, muss es nicht auf einmal gelesen werden.
Wenn Sie das Thema überhaupt interessiert, würde ich mich freuen, wenn Sie einen Blick auf meinen Beitrag werfen und sich, wenn er Anklang findet, damit befassen.
PS: Fragen in gutem Glauben werden mit Antworten in gutem Glauben beantwortet.
PPS – An alle, die gerade die Augen verdrehen. Es ist in Ordnung. ICH VERSTEHE ES. Aber (wie ich im Artikel sage): Ich verspreche, dass ich einen gut kalibrierten Bullshit-Detektor habe; Und ich glaube fest daran, dass es zwar wichtig ist, einen offenen Geist zu bewahren, dieser aber nicht so offen sein sollte, dass einem der Verstand ausfällt. Wie Carl Sagan sagte: „Außergewöhnliche Behauptungen erfordern außergewöhnliche Beweise.“ Das ist auch schon lange mein MO. Ich verspreche es. Es ist einfach so, dass es in diesem Fall Beweise gibt, und das ist verdammt außergewöhnlich. 😉
~Frieden und Liebe.
Consciousness Canaries — On thinking machines & techno-existential weirdness that's getting hard to ignore
byu/Admirable_Bike3918 inFuturology
Ein Kommentar
Posting this „Submission Statement“ to try to align with Rule #2. 😉
My SubStack article grapples with questions pertaining to the possibility of consciousness/proto-consciousness/subjective experience in advanced AI systems.
What I am NOT doing: Claiming that AI systems have consciousness now or definitely will in the future.
What I AM doing: Arguing that we need to stop ridiculing these questions and start treating them with gravitas & humility instead; and I am grounding this argument in credible, empirical research. As AI capabilities continue to advance, such questions shift from philosophical curiosities to practical ethical concerns.
Future-focused discussion questions:
– If future AI systems DO have some form of experience, how does that change our approach to development and deployment as we move forward?
– Should we apply the precautionary principle NOW, before we have definitive answers?
– If yes, how do we incorporate safeguards when we can’t even define what we’re safeguarding against?
The piece argues we need epistemic humility and proactive ethical frameworks BEFORE capabilities outpace our wisdom.
~Peace & love.