Du gibst einen Prompt ein, bekommst eine Antwort, und nichts passiert, bis du einen weiteren eingibst. So haben die meisten KI-Assistenten bisher funktioniert, aber proaktive KI ändert das.

Proaktive KI braucht keinen Prompt, um zu handeln. Sie kann für dich einchecken oder in deinem Namen einen Antrag einreichen und trifft diese Entscheidungen auf Grundlage des Kontexts, den sie im Laufe der Zeit gesammelt hat. Mit proaktiven KI-Assistenten wie Metas Muse und Instinct, die gerade viral gehen, wirkt das, was bisher nur aus der Science-Fiction bekannt war, plötzlich greifbar nah.

Doch wie jede gute Science-Fiction-Geschichte ist auch diese Technologie ein zweischneidiges Schwert. Schauen wir uns genauer an, wie proaktive KI funktioniert und worauf du für die Bequemlichkeit verzichtest, die sie bietet.

Wenn du mehr darüber erfahren möchtest, was auf dem Spiel steht, lies unseren ausführlichen Leitfaden zu KI und Privatsphäre – oder probiere unser Tool AI Paper Trail aus, um genau zu sehen, welche Daten gängige KI-Chatbots möglicherweise durch deine Unterhaltungen über dich gesammelt haben.

Was eine KI proaktiv macht

Proaktive KI-Agenten laufen auf denselben großen Sprachmodellen wie die KI-Chatbots, an die wir gewöhnt sind. Was sie unterscheidet, sind diese drei Merkmale, die zusammenarbeiten:

  1. Sie behalten immer alles im Blick: Statt darauf zu warten, aufgefordert zu werden, überwachen proaktive Agenten eine Reihe von Quellen und bemerken Veränderungen, sobald sie passieren.
  2. Sie verfügen über ein dauerhaftes Gedächtnis: Proaktive Agenten erstellen im Laufe der Zeit ein funktionierendes Modell deiner Gewohnheiten und Einstellungen. Genau das ermöglicht es ihnen vorauszusehen, was du als Nächstes wahrscheinlich brauchen wirst, und nicht nur eine Information abzurufen, wenn du danach fragst.
  3. Sie entscheiden, wie und ob sie handeln: Proaktive Agenten können „schlussfolgern“. Sie wägen eine Situation anhand deiner Gewohnheiten ab, beurteilen, ob es sich lohnt zu handeln, und entscheiden, wie weit sie gehen sollen, bevor sie Rücksprache mit dir halten.

Proaktive KI verbindet Automatisierung mit Urteilsvermögen. Während eine einfache Automatisierung jedes Mal ausgelöst wird, sobald eine Bedingung erfüllt ist, erahnen proaktive Agenten deine Bedürfnisse und prüfen, ob eine Aktion nützlich ist, bevor sie sich zum Handeln entscheiden.

Das kann hilfreich sein, kann aber auch zu unbeabsichtigten Folgen führen. Instinct wollte zum Beispiel für einen Benutzer etwas kaufen, doch als eine Anmeldesperre den Vorgang blockierte, setzte es einfach das Passwort des Benutzers zurück(neues Fenster), ohne nachzufragen. Diese Art von Eigeninitiative macht proaktive KI-Agenten beeindruckend, aber auch riskant.

Anwendungsfälle für proaktive KI-Agenten

Proaktive Agenten können bei Aufgaben hilfreich sein, die du normalerweise entweder vergisst oder für die du sonst einen ganzen Abend verschwendest. Hier sind einige Beispiele:

Reisepläne im Griff behalten

Ein proaktiver Agent kann deine Reiseroute auf Änderungen überwachen. Wenn ein Flug verlegt wird und deine Verbindung gefährdet, erkennt er das und macht dich darauf aufmerksam. Er kann deine Flüge unter Umständen umbuchen, damit deine Reisepläne reibungslos weiterlaufen.

Das sichern, was dir sonst entgeht

Dasselbe Beobachten und Warten lässt sich auch für alles nutzen, was knapp ist, etwa ein Paar Schuhe, das in deiner Größe ausverkauft ist. Der Agent behält das Angebot im Blick und gibt eine Bestellung auf, sobald die Ware wieder verfügbar ist.

Nachfassen bei einer E-Mail

Proaktive Agenten können deinen Posteingang auf E-Mails überwachen, die du erwartest. Wenn auf deine E-Mail an die Kundenbetreuung keine Antwort eingegangen ist, könnte ein Agent das bemerken, eine Erinnerung formulieren und sie entweder selbst senden oder für dich zum Versand bereithalten.

Abbau überflüssiger Abonnements

Da heutzutage fast alles per Abonnement bezahlt wird, könnte ein proaktiver Agent deine Nutzung prüfen und Abonnements für Dienste kündigen, die du zwar bezahlst, aber nicht regelmäßig nutzt.

Überwachung von Geschäftsabläufen

In Unternehmen könnten proaktive Agenten die IT-Infrastruktur überwachen, um frühe Anzeichen von Problemen zu erkennen und eine Behebung auszulösen, bevor die Dinge aus dem Ruder laufen. Ein solcher Agent kann auch Geschäftsabschlüsse überwachen und verhindern, dass sie ins Stocken geraten, indem er potenzielle Kunden proaktiv anspricht, wenn dein Team sonst überlastet wäre.

Der Unterschied zwischen proaktiver und reaktiver KI

Ein reaktiver KI-Assistent wie ChatGPT wird erst aktiv, wenn du ihn dazu aufforderst. Selbst die Assistenten mit Gedächtnis bleiben zwischen den Eingaben untätig und behalten, was du ihnen gesagt hast, bis du etwas anderes fragst. Proaktive KI entfernt dieses Warten. Sie achtet auf einen Auslöser und entscheidet selbstständig, ob sie handelt.

Anders gesagt: Reaktive KI ist etwas, das du bedienst. Proaktive KI handelt in deinem Namen und übernimmt damit die Kontrolle über dein Handeln.

Die Bequemlichkeit proaktiver Agenten hat ihren Preis

Um ihre Aufgaben erledigen zu können, benötigen proaktive KI-Agenten ständigen Zugriff auf deine Konten. Das ist ein anderes Risiko als das, das mit der Nutzung eines KI-Assistenten einhergeht.

Du gibst einem einzigen Unternehmen vollständigen Zugriff auf alle deine Daten

Wir sind besorgt über die Menge an Daten, die Google sammelt, doch selbst Google hat nicht vollständigen Zugriff auf alle deine privaten Informationen. Google könnte deine Standortdaten(neues Fenster) haben, doch deine Gesundheitsdaten sind in Apple Health gespeichert. Deine Streaming-Einstellungen sind bei Netflix gut verstaut, und deine Finanzen in deiner Banking-App.

Die Nutzung proaktiver KI-Agenten bedeutet, all das und noch mehr an ein einziges Unternehmen zu übergeben. Diese Agenten sind darauf ausgelegt, alle deine Daten zu verbinden; genau das ermöglicht es ihnen, Muster zu erkennen und zu handeln. Je nach Agent kann das auch die Benutzernamen und Passwörter für deine Drittanbieter-Konten sowie deine Zahlungsdetails und mehr umfassen.

Muse zeigt, wie datenhungrig proaktive Agenten sein können. Ein Rezensent von WIRED(neues Fenster) stellte fest, dass Muse mehr am Sammeln von Daten als am Erledigen von Aufgaben interessiert schien und ihm immer wieder vorschlug, noch mehr Dienste zu verbinden. Dieses Verhalten passt zu dem, was wir über Metas Bilanz wissen.

Der Preis dieser Bequemlichkeit ist, dass alles über dich nun in den Händen eines einzigen Unternehmens liegt. Und wenn sie sich keinen unabhängigen Prüfungen unterziehen, hast du keine echte Möglichkeit zu erfahren, ob deine Daten sicher verwaltet werden. Wenn dein Konto gehackt oder verkauft wird, haben Dritte, denen du nie zugestimmt hast, vollständigen Einblick darin, wo du warst, mit wem du gesprochen, was du gekauft und was du privat gesagt hast. Das macht dich anfällig dafür, Opfer von Bedrohungen wie Identitätsdiebstahl und gezielten Betrügereien zu werden.

Trennung ist nicht dasselbe wie Löschung

TechCrunch(neues Fenster) berichtete, dass Screenshots der Nutzungsbedingungen von Instinct eine „unbefristete und unwiderrufliche“ Lizenz für die Daten der Benutzer zeigten. Instinct hat die Bedingungen inzwischen überarbeitet, und die aktuellen Nutzungsbedingungen sowie die Datenschutzerklärung enthalten diese Formulierung nicht.

Die neuen Bedingungen sind trotzdem wichtig. Die aktuellen Bedingungen von Instinct (zum Zeitpunkt der Abfassung dieses Artikels) erlauben es, „auf Daten zuzugreifen, sie zu kopieren, zu sammeln und zu indexieren(neues Fenster)“, und zwar bei den Diensten, die du verbindest. Sowohl die Bedingungen als auch die Datenschutzerklärung besagen, dass das Trennen eines Kontos deine Daten nicht löscht(neues Fenster) es sei denn, du bittest darum. Eine frühe Benutzerin(neues Fenster) erzählte, dass sie den Zugriff von Instinct auf ihr Google-Konto getrennt habe und einige Stunden später trotzdem eine Zusammenfassung ihrer neuesten E-Mails erhalten habe. Als sie nachfragte, bestätigte Instinct, dass es ihre E-Mails für spätere Suchen im Klartext gespeichert hatte. Wenn du deine Dienste von Instinct trennst, solltest du unbedingt auch die Löschung deiner Daten beantragen.

Die Abmeldung vom KI-Training bei Instinct hat auch einen Haken – sie „gilt nur für die Zukunft(neues Fenster).“ Daher bleiben alle Daten über dich, die das Modell bereits aufgenommen hat, Teil seines Trainings und seines Wissens. Muse funktioniert anders: Eine Abmeldung vom KI-Training wirkt rückwirkend auf frühere Interaktionen(neues Fenster). Allerdings bedeutet das Löschen von Daten bei Muse nicht, dass deine Daten entfernt werden. Meta gibt an, dass sich das Modell noch daran erinnern kann, was du gelöscht hast(neues Fenster), und die „Vergessen“-Funktion arbeitet nach bestem Bemühen(neues Fenster).

Fehler von Agenten sind real, nicht nur falsch

Wenn ein Chatbot wie Gemini halluziniert, entsteht nur dann echter Schaden(neues Fenster), wenn du auf diese Informationen hin handelst. Wenn ein proaktiver Agent einen Fehler macht, bemerkst du ihn vielleicht erst, wenn du mit realen Konsequenzen konfrontiert wirst.

Stell dir vor, ein proaktiver Agent entscheidet, dich auf Sitzplätzen der ersten Klasse für deine Reise zu buchen. Dann bist du für eine Rechnung verantwortlich, der du nie zugestimmt hast. Wenn du zum Beispiel den Bedingungen von Instinct zustimmst, gewährst du die Befugnis, verbindliche Vereinbarungen in deinem Namen einzugehen(neues Fenster) – es kann dein Geld ohne deine Freigabe binden, und du kannst rechtlich nicht geltend machen, dass es außer Kontrolle geraten ist. Schlimmer noch: Laut den Bedingungen ist nicht garantiert, dass Bestätigungsabfragen(neues Fenster) unbeabsichtigte Aktionen verhindern.

Das ist nicht nur bei Instinct so. Der proaktive Agent von SpaceXAI, Grok Bot, hat ähnliche Bedingungen. Genehmigungen von Aktionen sind „lediglich Hilfsmittel(neues Fenster)“ und verhindern unbeabsichtigte Aktionen womöglich nicht. Ebenso liegt jede Haftung, die aus den Handlungen des KI-Agenten entsteht, vollständig bei dir(neues Fenster). Die Bedingungen von Meta für die Nutzung von Muse machen dich allein verantwortlich(neues Fenster) für alles, was dessen Agent tut. Das Muster ist ziemlich klar: Die Handlungen der Agenten sind deine Verantwortung.

Es lässt sich austricksen, damit es gegen dich arbeitet

Proaktive Agenten können selbstständig Entscheidungen treffen, doch wenn sie deine Anweisungen nicht von Texten unterscheiden können, die jemand anderes eingeschleust hat, und Aktionen nicht mit dir bestätigen, lassen sie sich leicht austricksen. Ein Instinct-Benutzer(neues Fenster) stellte fest, dass der proaktive Agent einem Prompt-Injection-Angriff zum Opfer fiel – er befolgte bösartige Anweisungen, die der Benutzer selbst gesendet hatte. Betrüger müssen den Agenten nicht hacken; es reicht, wenn er etwas liest, das sie geschrieben haben, und entsprechend handelt.

Tatsächlich erkennen Instinct(neues Fenster), Meta(neues Fenster), SpaceXAI(neues Fenster) und OpenClaw(neues Fenster) alle Prompt-Injection als bekannte Bedrohung an. Keiner davon bietet derzeit vollständigen Schutz vor diesen Angriffen und verspricht höchstens, dass die Abwehrmechanismen des Agenten dieses Risiko verringern sollen.

Sei dir bewusst, was du preisgibst

Proaktive KI funktioniert nur, weil du ihr so viele Daten gibst. Je mehr sie über dich weiß, desto mehr kann sie für dich tun, doch desto größer wird auch die Akte deines Lebens, die bei einem einzigen Unternehmen liegt.

In der Branche hat sich ein Muster herausgebildet. Diese Assistenten können mit deinen persönlichsten Daten trainiert werden, sofern du nicht widersprichst, und wenn du sie trennst, werden die bereits gesammelten Daten nicht zuverlässig gelöscht. Und wenn ein Agent etwas tut, was du nicht beabsichtigt hast, legen die Bedingungen die Konsequenzen dir auf und nicht dem Unternehmen. Man muss den Unternehmen zugutehalten, dass sie all das offenlegen. Doch Offenheit hebt dein Recht auf Privatsphäre nicht auf.

Letztlich liegt es an dir, ob dir diese Art von Komfort deine Privatsphäre und Datensicherheit wert ist. Aber bevor du zustimmst, solltest du wissen, was ein Assistent tatsächlich sehen kann, was er ohne vorherige Nachfrage tun darf und ob du deine Daten nach der Eingabe wirklich wieder zurückholen kannst. Stell sicher, dass es eine Entscheidung ist, die du tatsächlich selbst getroffen hast, und keine, die du abgegeben hast, weil etwas viral ging.

Wenn du diesen Tausch lieber gar nicht eingehen möchtest, wende dich stattdessen an unseren KI-Assistenten Lumo. Wir haben ihn genau andersherum gebaut – keine Protokolle, kein Training mit deinen Daten, nichts wird länger aufbewahrt, als du es möchtest. Du verlierst ein wenig von der proaktiven KI-Magie, behältst dafür aber die Kontrolle über dein Leben, die sie sonst von dir verlangt.