Lese-Empfehlung: Holden Karnofskys Blogserie „Most Important Century“

Das 21. Jahrhundert könnte das wichtigste für die Menschheit sein – diese These stellt Holden Karnofsky (Mitbegründer von GiveWell und Open Philanthropy) in seiner Blogserie „Most Important Century“ auf, die er im Sommer gestartet und inzwischen abgeschlossen hat. In den zwölf Posts beschäftigt er sich mit der Frage, wie die Menschheit Chancen und Risiken der Zukunft (vor allem hinsichtlich Künstlicher Intelligenz – KI) besser verstehen und sich entsprechend darauf vorbereiten kann. Die wichtigsten take-aways aus dieser Blogserie haben wir hier für euch zusammengefasst:

Warum das 21. Jahrhundert so wichtig sein könnte
– Schaut man sehr lange in der Geschichte zurück, dann fällt auf, dass die Wirtschaft noch nie so schnell gewachsen ist, wie wir es derzeit erleben (selbst coronabedingte Einbrüche ändern daran wenig): “We’re currently living through the fastest-growing time in history“, schreibt Karnofsky. Durch dieses auffallend große Wirtschaftswachstum könne sich die Welt noch in diesem Jahrhundert sehr rasch und sehr radikal verändern.

– So könne etwa die Technologie „Digitaler Menschen“ (also Menschen aus Software, die bei Bewusstsein sind und sich genau so verhalten können wie wir „normale“ Menschen) – entweder zu einer dystopischen oder utopischen Zukunft führen (oder zu einem Zustand zwischen den beiden Extremen). Digitale Menschen könnten die gesamte Galaxie bevölkern und sehr lange „überleben“. Sie wären extrem produktiv, könnten – so wie Software – kopiert werden und würden nicht altern oder sterben. Kurz: eine Technologie wie diese würde das menschliche Leben völlig auf den Kopf stellen.

– Diese langfristigen Zukunftsszenarien könnten viel schneller Realität werden als viele von uns sie erwarten – falls nämlich eine Art von KI entwickelt wird, die Fortschritt quasi automatisiert und die zu einer Explosion an Innovationen führt. Dadurch würde die klassische Dynamik „mehr Ressourcen = mehr Menschen = mehr Innovationen“ zurückkehren, die zuletzt auf „mehr Ressourcen = reichere Menschen = gleichbleibend viele Innovationen“ reduziert wurde. Karnofsky nennt diese Art von KI PASTA (= Process for Automating Scientific and Technological Advancement).

– Open Philanthropy hat sich in den vergangenen Jahren mit der Frage beschäftigt, wann – falls überhaupt – diese monumentale PASTA-KI entwickelt werden könnte. Einerseits gibt es folgende Annahme: Auch wenn aktuell noch keine KI existiert, die auch nur annähernd so viel berechnen kann wie ein menschliches Hirn, so dürfte sich dies relativ bald ändern und PASTA könnte schon Ende des Jahrhunderts entwickelt werden. Allerdings: ernstzunehmende Experten-Vorhersagen in Sachen KI gibt es (anders als etwa hinsichtlich des Klimawandels) nicht, wodurch diese Annahme freilich etwas geschwächt wird.

– Dennoch: Karnofsky geht davon aus, dass wir, die wir im 21. Jahrhundert leben, einen sehr großen Einfluss auf eine sehr große Anzahl von Menschen in der Zukunft haben könnten – falls wir die Situation richtig einschätzen und entsprechend handeln können. Ein klassischer „Aufruf zum Handeln“ kommt von Karnofsky nicht, sondern lediglich ein „Aufruf zur Wachsamkeit“. Für KI-Experten sei es wichtig, mehr daran zu forschen, wie KI-Systeme etwa weniger schlechte Entscheidungen treffen können. So könne in weiterer Folge auch das Risiko für das Worst-Case-Szenario „misaligned AI“ (= Menschen oder zumindest deren Werte könnten hintangestellt werden oder sogar aufhören zu existieren) reduziert oder dieses Risiko zumindest besser eingeschätzt werden.

Fazit: Auch wenn es hinsichtlich der langfristigen Zukunft keine sicheren Vorhersagen gibt, könnten große technologische Fortschritte es ermöglichen, dass sich eine Zivilisation auf die gesamte Galaxie ausbreitet und diese Zukunft eine radikale Utopie, Dystopie oder etwas dazwischen darstellt. Wie auch immer die Zukunft aussehen wird: wir sind als Zivilisation nicht darauf vorbereitet. Dennoch sollten wir dieses Thema ernst nehmen.

Lese- und Hörtipps
Um an die Sache möglichst strukturiert heranzugehen, empfiehlt Karnofsky selbst mit der Roadmap (einer Übersicht über alle Posts) zu starten, außerdem gibt‘s die ganze Serie zusammengefasst in einem PDF. Wer nicht ganz so viel Zeit investieren will, der kann sich auch eine gut zwei Stunden lange Podcast-Folge von 80,000 Hours anhören, in der Rob Wiblin und Holden Karnofsky die wichtigsten Punkte besprechen. Letzterer hat sich zuletzt übrigens auch intensiv mit der Vergangenheit beschäftigt – mehr dazu in seiner Blogserie „Has Life Gotten Better?“.

Nicht überzeugt?
Karnofsky räumt selbst ein, dass sich seine Thesen einigermaßen verrückt anfühlen und viele wohl an Science-Fiction erinnern. Dennoch hält er sie für plausibel genug, um auf sie aufmerksam zu machen: „By writing about it, I’d like to either get more attention on it, or gain more opportunities to be criticized and change my mind.“ Wer nach aufmerksamer Lektüre also nicht restlos überzeugt ist, kann sich etwa im EA Forum bei den entsprechenden Diskussionen einbringen.

Fotocredit: Flickr / Kristian Fagerström

Related Articles