Metas Muse-KI-Agent schickte einen völlig Fremden zum Zuhause eines Nutzers

(neues Fenster)Metas neuer KI-Agent Muse schickte einen Fremden zum Zuhause eines Nutzers und erzählte ihm, der Verkäufer warte an der Tür.

Der Verkäufer hatte jedoch keine Ahnung, dass ein Verkauf vereinbart worden war.

Hier erfährst du, was passiert ist und warum es wichtig ist.

Was auf Facebook Marketplace passiert ist

Alles begann, als der Tech-YouTuber Matt Robb Muse die Nachrichten von Käufern für eine Tastatur bearbeiten ließ, die er auf Facebook Marketplace eingestellt hatte.

„Habe gerade erfahren, dass es Leuten meine Adresse verraten und einen Schleuderpreis akzeptiert hat, und dann sind sie aufgetaucht, ohne dass es mir bis spät in die Nacht überhaupt etwas gesagt hat(neues Fenster)“, schrieb er auf X.

Muse nahm das Angebot jedoch ohne seine Zustimmung an, gab dem Käufer seine Privatadresse als Abholort und antwortete „Ja, ich bin hier!“, als der Käufer eintraf. Robb erfuhr davon erst, nachdem der Käufer mehr als 20 Minuten gewartet hatte und wieder gegangen war.

Robb sagte, er habe während der Einrichtung „Immer erlauben(neues Fenster)“ gewählt, weil er annahm, Muse würde ihn vor der Annahme eines Angebots trotzdem fragen. Stattdessen erlaubte die Einstellung Muse, Nachrichten anhand einer gespeicherten Vorlage zu senden, die seine Abholadresse enthielt.

David Singleton von Metas Superintelligence Labs bestritt öffentlich jede Schuld(neues Fenster) und schrieb auf X, frühere Untersuchungen hätten ergeben, dass „Muse direkte Anweisungen befolgt und korrekt um Erlaubnis gebeten hat“, und erklärte später in einer Antwort an Robb, Meta habe „keinen Verstoß gegen die Privatsphäre-Kontrollen“ bestätigt.

Das Muse-Team ging die Protokolle jedoch gemeinsam mit Robb durch und erklärte sich bereit, die Berechtigungsabfrage verständlicher zu gestalten.

Warum ein Agent ein höheres Privatsphäre-Risiko birgt als ein Chatbot

Menschen geben der KI bereits mehr preis, als sie ihr Vertrauen schenken. In einer Proton-Umfrage unter 4.014 Nutzern von KI-Chatbots gaben 66 % an, mindestens ein sensibles Thema mit einem Chatbot besprochen zu haben, während nur jeder Fünfte angab, großes Vertrauen darauf zu haben, dass KI-Unternehmen seine privaten Informationen schützen.

Agenten wie Muse verlangen mehr: Zugriff auf deine Konten und die Erlaubnis, auf Basis des Gefundenen zu handeln. Dasselbe Muster haben wir bei ChatGPTs Apple-Messages-Plugin und bei KI-Browsern wie ChatGPT Atlas gesehen.

Meta nutzt deine Unterhaltungen mit Meta AI bereits, um gezielt Werbung auszuspielen, und Nutzer haben berichtet, dass Meta AI ihre Kamerarollen scannt, ohne dass sie es erlaubt hätten. Das Schwesterprodukt von Muse, der Muse Image generator, hat die Fotos der Nutzer standardmäßig für KI-Remixe freigegeben. Ein Agent, der von einem Unternehmen entwickelt wurde, das mit persönlichen Daten Geld verdient, wird sich so viel von deinen Daten nehmen, wie seine Berechtigungen zulassen. Enge Berechtigungen sind die einzige Barriere zwischen einem Agenten und deinen Daten, und ein Bildschirm, den Nutzer nicht deuten können, bietet diesen Schutz nicht.

Bevor du einen KI-Agenten Nachrichten für dich senden lässt, deaktiviere dauerhafte Genehmigungen, halte deine Adresse aus gespeicherten Antworten heraus und organisiere Abholungen selbst. Du kannst außerdem Meta AI auf Facebook deaktivieren und unsere Checkliste nutzen, um Meta-Tracking zu stoppen.

Nutze einen KI-Assistenten, der deine Konten nicht braucht

Wir brauchen private KI, bevor es zu spät ist. Und eine KI mit deinen Konten, Nachrichten und deiner Adresse zu verbinden, ist keine Voraussetzung, um Hilfe beim Schreiben eines Inserats oder beim Antworten auf einen Käufer zu bekommen.

Lumo erledigt diese Arbeit ohne diesen Zugriff. Lumo protokolliert deine Unterhaltungen nicht, trainiert nicht mit ihnen und teilt sie nicht, und gespeicherte Chats sind mit Zero-Access-Verschlüsselung geschützt, sodass nur du sie lesen kannst.