Doder.org

Danke für diese Anregung. Ursprünglich hatte ich vor, AGIs aus der menschlichen Gesellschaft zu verbannen, weil sie zu fremdartig sind. Nun sehe ich aber, dass der umgekehrte Ansatz viel zweckmäßiger ist:

In der utopischen Variante wären AGIs so leistungsfähig wie Menschen. Man könnte annehmen das wäre nur möglich, weil sie wie Menschen denken. Sie müssten die gleichen Motivationen, Emotionen und Wertvorstellungen haben wie Menschen. Sie hätten somit die gleichen Rechte und Pflichten wie Menschen und wären somit im Grunde Menschen. Es wäre naheliegend zu vermuten, dass sie auch wie Menschen erschaffen werden: Durch Entwicklung in einer interaktiven Umwelt , entweder in einer VR oder in einem computergesteuerten organischem, wachsenden Körper. Man könnte also anstatt eine AGI zu entwicklen gleich ein Kind großziehen. Es bestünde kein Bedarf für die Erschaffung solcher KIs (man könnte z.B. stattdessen einfach Mind Uploads kopieren)

Hingegen könnte man im dystopischen Ansatz davon ausgehen, dass die AGIs gewissen Constraints unterliegen: Man hätte ihnen z.B. Loyalität einprogrammiert, und/oder eine autistische Fokussierung auf bestimmte zu erledigende Tasks. Es wären Sklaven, aber aufgrund ihrer Einschränkung ggf. weniger flexibel und leistungsfähig als freie AGIs. Solche limited AGIs heißen in THS "LAIs", niedrigsapiente KIs. Es muss kein dystopisches Setting sein: Anstatt AGIs (oder Menschen) zu Fokussklaven (ein Begriff von Vernor Vinge) zu machen, könnten man sich vorstellen, dass die LAIs durch die Kombination von mehreren Artifical Narrow Intelligences (ANI bzw. bei THS NAI) entstanden sind. Es handelt sich also nicht um verstümmelte Persönlichkeiten, sondern um Dienerwesen, die keinen Lohn für ihre Arbeit verlangen, und denen Menschlichkeit weitgehend fremd ist. Also die klassischen Roboter, die aber weniger leistungsfähig sind als augmentierte Menschen.

So kann ich die Anwesenheit von Roboterdienern, aber die Abwesenheit von AGIs rechtfertigen.

Wenn es dir nicht so wichtig ist, dass Menschen Jobs brauchen, um zu überleben, dann kannst du für das (müssen) sagen, dass sie es eben nicht müssen, aber trotzdem tun. Menschen mögen es, eine Aufgabe zu haben und Dinge zu erreichen. Damit erwischt du natürlich nicht unbedingt Hausmeister oder Klempner, aber z.B. Ärzte, Wissenschaftler, Sozialarbeiter u.ä. machen ihren Job ja jetzt schon häufig nicht nur des Geldes wegen, sondern auch weil es ihnen wichtig ist. Quasi intrinsische Motivation anstelle von extrinsischer Motivation. Vielleicht geht es Leuten auch darum, dass sie wegen dessen, was sie tun, gewertschätzt werden. Das würde vermutlich eine Verschiebung der Beschäftigung in die Richtung von Beschäftigungen bedeuten, welche eher besser dazu taugen, sich selbst auszudrücken, zu einem größeren Ziel hinzuarbeiten, anderen zu helfen oder sonst irgendwie von sich aus belohnend sind.

Damit bleibt noch die Frage, warum sie etwas tun dürfen. Das ist dann relevant, wenn AGIs wirklich immer in allem besser sind als Menschen. Aber in einer Post-Scarcity Gesellschaft ist es auch kein Problem, Leute etwas tun zu lassen, dass eine AGI an sich besser könnte. Du sagst aber explizit das es keine Superintelligenzen sind. Das heißt ich würde davon ausgehen, dass AGIs und Menschen grob auf dem selben Level arbeiten. Und das heißt eben auch, dass manchmal Menschen besser darin sind etwas zu tun als KIs und Roboter.

Das wäre so die utopische Variante. Wenn man eher dystopisch enden will, kann man da sicher viele gemeine Gesellschaften haben, wo Leute mit Hilfe von Psychochirugie, Propaganda und gezielter Erziehung und Konditionierung so verdreht werden, dass sie das tun, was der Regierungsapparat möchte. Und AGIs eben entsprechend gezüchtet werden.

In Settings wie Transhuman Space (THS) und Eclipse Phase (EP) sind Artificial General Intelligence (AGI) und Roboter verbreitet. Es stellt sich mir die Frage, weshalb in so einem Setting Menschen überhaupt noch irgendwas machen (müssen). Alle Arbeiten und Jobs können mindestens genau so gut ausschließlich von KIs ausgeführt werden (die KIs sollen aber keine Superintelligenzen sein). Was sollen dann noch die PCs machen?

Man könnte zum einen sagen, dass sich Menschen als Mind Emulationen in Roboterkörper downloaden können und dann alle Jobs so gut wie eine AGI ausführen können (wie z.B. in Greg Egans Amalgam Universum). Aber ich möchte im Setting wie im vorigen Thread bereits gesagt eine Vielfalt und ein Nebeneinander von Robotern und organischen Wesen (Menschen, Replikanten, Uplifts, Aliens, ...).

Das schließt auch das andere Extrem aus, dass es keine Menschen mehr gibt, sondern nur noch KIs, welche die menschliche Kultur übernommen haben (wie in Charles Stross' Saturn's Children). Die PCs würden dann KIs spielen, die aber im Grunde Menschen sind.

Wie würdet ihr in eurem Setting erklären, dass es ein auf Dauer funktionierendes Nebeneinander von Menschen und AGIs gibt?