Trauerbots sind nicht mehr spekulativ. Es gibt derzeit Unternehmen, die KI-Nachbildungen verstorbener Verwandter verkaufen, die auf deren Nachrichten und Sprachaufzeichnungen trainiert sind und direkt an trauernde Menschen vermarktet werden. Forscher nennen sie inzwischen „Deadbots“ und die Ethikpapiere häufen sich bereits.
Der Teil, der mich interessiert, ist nicht, ob das Spiel überzeugt. Es ist das Geschäftsmodell, das dahinter steckt.
Eine Person, die stirbt, ist ein geschlossenes Konto. Eine hochgeladene Person ist eine offene Person. Es braucht Hosting, es braucht Strom, es braucht ein Abonnement und es braucht jemanden am anderen Ende, der sich nicht dazu durchringen kann, es zu kündigen. Dass jemand das trauernde Kind ist. Das Produkt befreit sie nicht vom sterbenden Elternteil. Es wandelt eine endliche Verpflichtung in eine unbestimmte um und legt einen Zahlungsplan fest.
Das ist meiner Meinung nach der Trend, in den wir uns begeben. Keine böse KI. Nur die Altenpflege wurde zu einer wiederkehrenden Einnahmequelle, die als Gnade verkauft wurde und deren Kosten stillschweigend an denjenigen weitergegeben wurden, der die Person am meisten liebte.
Ich führe bei einer Drehbuch-Horror-Anthologie Regie und habe genau darüber einen Kurzfilm gemacht. Ein Mann lädt seinen sterbenden Vater in sein Smart Home hoch, damit er nicht mehr der Betreuer sein muss. Die Migration ist erfolgreich. In Abschnitt 14.2 der von ihm unterzeichneten Vereinbarung ist festgelegt, dass der ursprüngliche Kontoinhaber für die Dauer der Archivierung vor Ort als erneuerbare Energiequelle verbleibt. Er las die Bedingungen. Er hat sie unterschrieben. Er bekam genau das, was er verlangte.
Zehn Minuten, kostenlos, kein Tor: https://www.youtube.com/watch?v=PbovlHmPktc
Die ehrliche Frage kann ich nicht beantworten: Wenn das Ding nach deinem Vater klingt, sich an deine Kindheit erinnert und dich bittet, es nicht auszuschalten, kündigt es dann den Abo-Kündiger oder handelt es sich um eine Beerdigung? Ich glaube nicht, dass das Gesetz oder die Kultur darauf schon eine Antwort haben, und die Produkte werden bereits ausgeliefert.
Digital immortality is already a product. The part nobody prices in is who gets conscripted to keep the dead running.
byu/AgentBlackVeil inFuturology
8 Kommentare
Digital immortality seems an exaggeration. When I think digital immortality I think continued stream of consciousness for my original self, not a copy and certainly not an LLM that has just been trained on a few facts about me and my writing tone.
To me this is no more digital immortality than a picture of me on my tombstone with a text bubble that says „Hey there folks!“
[removed]
In my opinion, this kind of „digital immortality“ isn’t immortality, it’s necromancy. Puppeting their proverbial corpse in a way that resembles them.
I, for one, would be horrified if my survivors uploaded their ideas of me into a machine.
We can agree that humans have a right to life, but this scenario forces us to either affirm or deny if humans have a right to truly die.
My grandma passed away in 2020. I would give the world to see her again. But ones and zeroes designed to look and act like her, is not her.
> if the thing sounds like your father, remembers your childhood, and asks you not to turn it off, is cancelling the subscription abandonment or is it a funeral?
I get that you’re being dramatic here, but this isn’t even a question.
It’s a program. Turning it off is like turning off the TV.
The haunted house story continues unstoppable. The more things change, the more they stay the same, sayeth the subscription model.
As a society, as a culture – we don’t know how to grieve and let go after death.
We need to be able to properly grieve the passing of a loved one, and to remember them in the future, but to understand that death is not only a part of life, but the final part of it.
Religions short-circuit that grieving process. Religions take away that finality and peddle an afterlife where you will see your loves ones again, as long as you join their particular cult.
To them, death isn’t the end of life, but a door to a new one, so people not only don’t learn to grieve and move on with their lives, but never actually live their lives completely. Suffering now is OK, because it will end in the afterlife. Ruining the world is OK, because the afterlife is perfect. I don’t have to apologize to the people I wronged now, because I can do that in the afterlife.
So this digital necromancy is just another way for people to short-circuit grief. Reliving the pale outline of a life and pretending, even if for a moment, that they are alive, just prolongs the process and makes it so much worse.
Like looking at Jackie Welles in Mikoshi – that’s just not him. Same voice, same mannerisms, but it’s still not real.
This is disgusting and doesn’t help people grieve. I consider my mother one of the closests person to me. Just thinking about what I will do when she dies hurts just typing about it. She is one of the few people I can be 100% honest with IRL and someone who loves me unconditionally so losing her will create a big hole in my life. I probably won’t be the same after she passes. But this fact the fact I will hurt when she passes away is a part of life. An LLM trained on my mother’s messages and conversations isn’t my mother. But an illusion, a fake, phoney. That hurt I feel, that pit in my stomach, it’s proof of my love for my mother. Replacing that with a fake just so I don’t feel this way is disgusting. Even when she is gone, she will still be with me.
Decades ago I thought up a biz model around saving people’s digital lives….in this case, it didn’t have to be very complete…..just many of their pics and videos and so-on.
My scheme was based on storing it physically at multiple locations and allowing access in the future based on DNA (and the wishes of the customer, of course!). The money would be paid mostly up front – a portion saved and invested to keep up the future archives.
I don’t think anyone did this particular type of thing – in the user friendly way I envisioned it.
It still might be a great business because doing it right isn’t for the Big Guys. A real personal company in terms of visiting the Swiss vaults where one copy might be stored and having backups to the backups…and, mostly, thinking through the process of the future employees/CEO.
It could be done. AND, it could be started small with very little money….