Das Startup Open AI will die Welt retten, aber ohne zu sagen, wie. Im Silicon Valley ist man besorgt Das Startup Open AI wollte einst die Welt retten. Heute jagt es vor allem Profit hinterher - und der Idee, der Menschheit allgemeine künstliche Intelligenz zu bringen.

Das Startup Open AI wollte einst die Welt retten. Heute jagt es vor allem Profit hinterher - und der Idee, der Menschheit allgemeine künstliche Intelligenz zu bringen.

Bei genauerem Hinsehen passt das schicke graue Gebäude mit den weissen Fensterumrahmungen nicht ins Quartier. San Franciscos Mission District ist das Viertel der hispanischen Arbeiter, Garagen und Taquerias reihen sich hier aneinander, Obdachlose leben in Zelten und Wohnwagen. An warmen Tagen hängt der Geruch von Urin in der Luft.

Doch vor dem grossen Haus an der 2181 Folsom Street ist das Trottoir makellos, Videokameras überwachen das Geschehen, im Erdgeschoss versperren Rollos den Blick ins Innere. Nirgends steht ein Schild, das darauf hindeutet, dass hier eine der weltweit führenden Firmen für künstliche Intelligenz (KI) sitzt.

Open AI hat uns allen wie keine andere Firma gezeigt, wie weit KI bereits fortgeschritten ist – und wie diese Technologie unser aller Leben verändern dürfte.

Der erste Donnerschlag kam im vergangenen Sommer mit der Bildgenerierungs-Software Dall-E 2. Auch Nestlé nutzt inzwischen von Dall-E kreierte Bilder, um seine Joghurts zu bewerben. Ein regelrechtes Erdbeben löste Open AI aus, als es am 30. November seinen Chatbot Chat-GPT der Öffentlichkeit zugänglich machte. Das Interesse der Öffentlichkeit ist so gewaltig, dass Chat-GPTs Server regelmässig zusammenbrechen. Jüngst beantwortete der Chatbot die Fragen des Approbationsverfahrens für Ärzte in den USA so gut, dass er fast alle drei theoretischen Teile der Prüfung bestanden hätte. Einige Finanzfirmen lassen von dem Programm nun einen ersten Entwurf ihrer Quartalsberichte verfassen.

Doch das ist noch lange nicht der Höhepunkt dessen, was sich Open AI vorgenommen hat. Wer ist das Startup aus San Francisco?

Gegründet von der Elite des Silicon Valley

Elon Musk, Peter Thiel, Sam Altman und andere profilierte Gründer aus dem Silicon Valley trieb 2015 der gleiche Gedanke um: Die KI machte rasante Fortschritte, doch die Forschung fand hinter verschlossenen Türen in den grossen Tech-Konzernen statt. Schlimmer noch: Erste Beispiele zeigten, dass diese Schlüsseltechnologie für Rassismus und Mobbing missbraucht wurde. Auch stellten sich grundsätzliche ethische Fragen zur Anwendung.

Insgesamt sagten sie eine Milliarde Dollar zu, um eine Nonprofitorganisation namens Open AI zu gründen. Ihre Ziele waren ambitioniert: Als Erste wolle man «allgemeine künstliche Intelligenz» erreichen, also eine KI, die nicht mehr von menschlicher Intelligenz zu unterscheiden wäre. Zweitens würde Open AI sicherstellen, dass davon «die gesamte Menschheit profitieren» würde. Und drittens würde die Firma so offen agieren, dass es Teil ihres Namens wurde.

Sollten Mitbewerber das Ziel der allgemeinen künstlichen Intelligenz vor Open AI erreichen, so heisst es in der Charta, werde man das Rennen abbrechen und die Mitbewerber unterstützen. Es ist genau die Art hehrer Versprechen, die viele Angestellte im Silicon Valley anlockt. Tatsächlich schafften es die Gründer, knapp ein Dutzend der besten KI-Forscher anzuziehen.

Sam Altman baut die Firma 2019 radikal um

Doch bald musste Open AI feststellen, dass sich Top-KI-Forschung und Nonprofit widersprachen. Die Computermodelle frassen viel Rechenleistung und damit das Gründungskapital auf.

Im Jahr 2019 wurde das Startup radikal umgebaut: Sam Altman, Mitgründer von Open AI und legendär als Gründer der Startup-Schmiede YCombinator, gab seine dortige Führungsrolle auf und wechselte bei Open AI vom Aufsichtsrat in die Rolle des CEO. Altman, heute 37 Jahre alt, ist berüchtigt für seine Talente im Marketing und im Verkaufen. Was er anfasst, wird oft zu Gold.

Auch mit Open AI hatte er klare Ziele. Als frisch angetretener Chef verkündete er: «Wir müssen in den nächsten Jahren Milliarden von Dollar für Cloud-Computing ausgeben, zudem für die besten Forscher und um KI-Supercomputer zu bauen.» Vermutlich werde Open AI mehr Kapital brauchen, «als eine Nonprofitorganisation jemals in der Geschichte aufgenommen hat».

Altman verpasste Open AI deshalb eine neue Firmenstruktur: Ergänzend zum Nonprofit-Arm wurde eine «‹Capped› for profit»-Organisation geschaffen. Dieser Firmenbereich sollte vor allem Geld einnehmen – allerdings wurde die Möglichkeit für Rendite beim 100-Fachen des Investments gekappt. Wer also 1 Million Dollar in Open AI investierte, dürfte maximal 100 Millionen Dollar zurückbekommen.

Es war eine klare Abkehr von der Gründungscharta von 2015, in der es noch hiess, man wolle frei sein «von der Notwendigkeit, finanzielle Erträge zu erzielen. Da unsere Forschung frei von finanziellen Verpflichtungen ist, können wir uns besser auf eine positive Wirkung auf die Menschheit konzentrieren.»

In der KI-Community zeigten sich viele enttäuscht. Wie unterscheide sich Open AI noch von den Big-Tech-Konzernen, von denen man sich doch abheben wollte? Wie das «Wall Street Journal» berichtete, verliessen damals viele Mitarbeiter das Startup.

Eine Suchanfrage an Chat-GPT ist sieben Mal so teuer wie eine an Google

Die, die blieben, hatten einer klaren Marschrichtung zu folgen: KI-Produkte zu bauen, für die Konsumenten und Firmen bereit wären zu zahlen. Altman gab den Mitarbeitern Anteile an Open AI und kündigte an, die Produkte nun kommerziell an Firmen zu lizenzieren. Er flog nach Seattle und überzeugte Microsofts CEO Satya Nadella mit einer Demonstration der damaligen Version von Chat-GPT, 1 Milliarde Dollar zu investieren. Zudem stellte Microsoft fortan die Cloud-Infrastruktur bereit, die es brauchte, um die Sprachmodelle des Startups zu trainieren.

Öffentlich beteuerte der neue CEO, dass die neue Firmenstruktur nichts verändert habe. Mehr noch: Mitarbeiter werden heute angeblich teilweise danach entlöhnt, wie eng sie den Vorgaben der Charta folgen. 300 Angestellte arbeiten inzwischen für Open AI. «Unser Selbstverständnis ist noch immer, dass wir für die ganze Welt arbeiten», sagte Altman in einem Interview. KI-Forschung sei eben sehr kapitalintensiv.

Was genau die Rechenleistung von Chat-GPT kostet, ist nicht bekannt. Altman spricht von «Cent-Beträgen» pro Anfrage. Scott Galloway, Wirtschaftsprofessor an der New York University, schätzt, dass eine Frage an Chat-GPT etwa 2 Cent koste – sieben Mal so viel wie eine Google-Suchanfrage. Tom Goldstein, Professor für Computerwissenschaften an der Universität Maryland, schätzt, dass Chat-GPT am Tag 100 000 Dollar verschlingt.

Microsoft investiert nochmal 10 Milliarden Dollar

Laut der Nachrichtenagentur Reuters dürfte Open AI 2023 einen Umsatz von 200 Millionen Dollar machen und nächstes Jahr gar 1 Milliarde Dollar umsetzen. Microsoft kündigte nun vergangene Woche an, dass es künftig die Technologie von Open AI in alle Microsoft-Produkte einbauen werde. Konzernchef Satya Nadella schiesst nun noch einmal 10 Milliarden Dollar nach, wie am Montag bestätigt wurde, als Teil einer jahrelangen Partnerschaft mit dem Startup. Damit hätte das Startup eine Bewertung von 29 Milliarden Dollar. Investoren glauben, Open AI könnte das nächste Google werden – also das nächste Billionen-Dollar-Unternehmen.

Doch Altmans Umbau brachte ihm auch Kritik ein, unter anderem vom Mitgründer Elon Musk. Der hatte den Aufsichtsrat bereits 2018 verlassen; einerseits, weil er Interessenkonflikte mit der KI-Forschung von Tesla sah, andererseits, weil er mit dem Kurs von Open AI nicht einverstanden war, der sich schon damals abzeichnete. Open AI mangele es an Transparenz, kritisierte Musk. Er sei «nicht zuversichtlich», dass die Firma die versprochene Sicherheit bei der Entwicklung von KI priorisiere, twitterte er 2020.

I have no control & only very limited insight into OpenAI. Confidence in Dario for safety is not high.

— Elon Musk (@elonmusk) February 17, 2020

Wenige Tage zuvor hatte das Magazin «MIT Technology Review» eine grosse Recherche zu Open AI veröffentlicht, die kein gutes Licht auf die Firma warf. Auf der Grundlage von Dutzenden Gesprächen mit Mitarbeitern und früheren Angestellten hielt die Autorin fest, wie Profit- und Wettbewerbsdenken den einstigen Idealismus ausradiert habe. Einem Kult ähnlich, verbrächten die Mitarbeiter vor allem Zeit miteinander; Greg Brockman, einer der Mitgründer, heiratete gar in den Büroräumlichkeiten.

Auch nach den jüngsten Durchbrüchen mit Dall-E und Chat-GPT gibt es Kritik an Open AI. «Man tut so, als sei man nach wie vor nicht profitgetrieben – aber die ersten zig Milliarden Dollar gehen zu Microsoft, den Angestellten und Investoren», sagte Scott Galloway, Wirtschaftsprofessor an der New York University, jüngst an der DLD-Konferenz in München, mit Blick auf die Capped-For-Profit-Struktur. «Bis es tatsächlich mal eine Nonprofitorganisation wird, muss Open AI eine der fünf profitabelsten Firmen der Geschichte sein. Was für ein unfassbarer Schwachsinn.»

Doch fragt man im Silicon Valley herum, flüchten sich auch viele in unverbindliche Aussagen. Die KI-Community sei eng verwoben, erzählt ein Gesprächspartner im Vertrauen. Open AI habe nun den Status eines Heiligen, mit dem man es sich nicht verderben wolle. Bis heute gewähren Sam Altman und Open AI Medien so gut wie keine Interviews, auch Gesprächsanfragen dieser Zeitung blieben erfolglos.

Für eine Organisation, die sich das Wohl der Menschheit auf die Fahnen schreibe, sei das sehr besorgniserregend, sagt Ramesh Srinivasan im Gespräch, er ist Professor für Information Studies an der Universität Los Angeles und Autor des Buches «Beyond the Valley». «Welche Daten sammeln sie, und wie lange speichern sie diese? Basierend auf welchen Algorithmen stellen sie Korrelationen fest? Und was genau meinen sie mit den Versprechungen, ‹ethisch› und ‹für das Wohl der gesamten Menschheit› zu arbeiten? Es gibt keine Antworten.» Das sei typisch für grosse KI-Firmen.

Zudem enthüllte das «Time»-Magazin jüngst, wie Billiglohnkräfte in Kenya die KI-Modelle von Open AI unterstützen. Die Arbeiter dort müssen gegen einen Stundenlohn von weniger als 2 Dollar Algorithmen händisch darin trainieren, Sprache zu erkennen, die rassistisch, sexistisch und gewaltsam ist. Auf die gleiche Weise «immunisieren» etwa auch Facebook und Google ihre KI-Modelle gegen Hassrede. Dafür müssen die Billiglohnarbeiter stundenlang diese unerwünschten Bilder und Texte studieren, was oft traumatisierend ist.

Das Ziel: die KI als unser persönlicher Assistent

Relevant ist die Diskussion um Transparenz vor allem, weil wir noch viel von der Firma hören dürften. Erstens dürfte die Technologie, die dem Chatbot zugrunde liegt, nun immer besser werden – manche Experten glauben, dass spätere Versionen von GPT sich selbst ständig verbessern dürften und es keiner neuen Versions-Updates der Firma mehr bedarf.

Zweitens ist das oberste Firmenziel laut Charta bekanntlich die «Artificial General Intelligence» – also der Zustand, in dem Computer so denken, tun und fühlen können, dass sie nicht mehr von Menschen zu unterscheiden sind. Zurzeit scheint dieses Ziel noch weit entfernt; selbst Altman sagt, Chat-GPT befinde sich in einem «embryonalen Zustand». Doch auch Musk glaubt, dass «wir von gefährlich mächtiger KI nicht mehr weit entfernt» sind.

Wie weit wir von denkenden und fühlenden Computern entfernt sind, darüber streiten KI-Experten mit Leidenschaft. Der aus Deutschland stammende KI-Experte Richard Socher hat mit einem der Open-AI-Gründer eine Wette laufen, ob das Startup die allgemeine künstliche Intelligenz bis 2025 erreicht haben werde. «Ich habe dagegen gewettet und dürfte gewinnen – aber letztlich ist er der Gewinner», erzählt er. «Denn Open AI hat die KI-Forschung so weit vorangetrieben, dass sie heute einen wahnsinnig grossen Einfluss auf die gesamte Forschung und Anwendung hat.»

An dem Tag, als er Chat-GPT der Öffentlichkeit übergab, gewährte Altman einen Einblick in seine Sicht auf die Zukunft. «Bald werden wir Assistenten haben, die mit dir reden, deine Fragen beantworten, dir Ratschläge geben.» Und irgendwann werde die KI für einen losziehen und nicht nur Dinge erledigen, sondern gar mit neuem Wissen zurückkommen.

soon you will be able to have helpful assistants that talk to you, answer questions, and give advice. later you can have something that goes off and does tasks for you. eventually you can have something that goes off and discovers new knowledge for you.

— Sam Altman (@sama) November 30, 2022