Ein vom Silicon-Valley-Gründerzentrum Y Combinator unterstütztes Unternehmen entwickelt eine neue Form der automatisierten Kundenüberwachung. KI-Agenten sollen Informationen über Geschäftskunden sammeln, analysieren und daraus detaillierte Profile erstellen – kontinuierlich und ohne ausdrückliche Zustimmung der Betroffenen. Die Gründer halten diese Entwicklung für unvermeidlich.
Was bislang vor allem mit Geheimdiensten und staatlichen Überwachungssystemen in Verbindung gebracht wurde, könnte bald zum gewöhnlichen Bestandteil des Geschäftslebens werden. Das Startup Outlit, gegründet von Josh Earle und Leo Paz, entwickelt eine Plattform, mit der Unternehmen ihre Kunden durch künstliche Intelligenz dauerhaft beobachten können.
Gegenüber dem US-Technologiemagazin Futurism erklärte Earle, dass künftig jedes Unternehmen jedem seiner Kunden einen eigenen KI-Agenten zuweisen werde, der dessen Aktivitäten fortlaufend überwacht. Seiner Ansicht nach sei dies notwendig, um Kunden künftig angemessen betreuen zu können.
Ein digitales Kundendossier, das ständig wächst
Das System soll Informationen aus unterschiedlichsten Quellen zusammenführen: interne Verkaufsunterlagen, Gesprächsprotokolle, Kundenmanagementsysteme, Produktnutzungsdaten und frühere Geschäftskontakte. Gleichzeitig durchsuchen KI-Agenten externe Quellen wie LinkedIn, soziale Netzwerke und Unternehmenswebseiten.
Aus diesen Informationen entsteht ein ständig aktualisiertes Kundenprofil, das den Mitarbeitern auf einer zentralen Oberfläche zur Verfügung steht.
Die künstliche Intelligenz beschränkt sich dabei nicht auf das Sammeln von Daten. Sie soll konkrete Handlungsempfehlungen liefern: Wann sollte ein Kunde kontaktiert werden? Welche Themen beschäftigen ihn? Welche Angebote könnten erfolgreich sein? Welche Veränderungen deuten darauf hin, dass ein Unternehmen einen Kunden verlieren könnte?
Das wirtschaftliche Ziel besteht darin, Kundenverluste zu verhindern und zusätzliche Verkaufschancen zu erkennen. Was bisher Mitarbeiter mühsam zusammentragen mussten, sollen KI-Systeme künftig selbstständig und nahezu in Echtzeit erledigen.
Überwachung als Geschäftsmodell
Outlit wird vom bekannten Technologie-Gründerzentrum Y Combinator unterstützt. Zum Zeitpunkt der Berichterstattung war die Plattform noch nicht öffentlich verfügbar. Das Unternehmen konzentriert sich derzeit auf Softwarefirmen, deren Kunden wiederum andere Unternehmen sind.
Earle betont, dass Outlit keine Privatverbraucher überwachen wolle. Eine spätere Ausweitung auf den gewöhnlichen Verbrauchermarkt hält er für unwahrscheinlich, unter anderem weil die dort verfügbaren Daten seiner Einschätzung nach weniger brauchbar wären.
Doch auch bei Geschäftskunden entstehen erhebliche Fragen zum Datenschutz. Schliesslich handelt es sich bei vielen Informationen um Daten über konkrete Personen, deren berufliche und private Aktivitäten sich kaum vollständig voneinander trennen lassen.
Selbst Krankheiten und Scheidungen könnten erfasst werden
Besonders problematisch wird das Konzept, wenn öffentlich zugängliche Informationen persönliche Lebensumstände betreffen.
Menschen berichten in sozialen Netzwerken nicht nur über berufliche Entwicklungen, sondern auch über Hochzeiten, Scheidungen, schwere Krankheiten oder Todesfälle innerhalb ihrer Familie. Solche Informationen könnten grundsätzlich ebenfalls von automatisierten Datensammlern erfasst werden.
Auf die Frage von Futurism, ob Outlit auch solche persönlichen Ereignisse überwachen könnte, erklärte Earle, er habe darüber bislang nicht nachgedacht. Sein Unternehmen verfolge solche Informationen nicht gezielt.
Technisch sei es jedoch theoretisch möglich, sämtliche öffentlich verfügbaren Informationen im Internet zu erfassen.
Damit stellt sich die Frage, wo die Grenze zwischen geschäftlicher Kundenbetreuung und umfassender persönlicher Überwachung verläuft.
Keine Benachrichtigung, kein Widerspruch
Besonders aufschlussreich ist die Haltung des Unternehmens zur Einwilligung.
Futurism fragte Earle ausdrücklich, ob Menschen darüber informiert werden sollten, dass KI-Agenten sie beobachten, und ob sie die Möglichkeit erhalten müssten, sich dieser Überwachung zu entziehen.
Seine Antwort lautete Nein.
Earle begründete dies damit, dass sein Unternehmen nach eigener Auffassung nichts Illegales tue. Öffentlich zugängliche Informationen würden bereits heute ausgewertet. Outlit automatisiere lediglich diesen Vorgang.
Auf seiner Webseite verspricht das Startup zwar, Kundendaten sicher und anonymisiert zu behandeln und nicht zum Training eigener KI-Modelle zu verwenden. Die Frage, ob Betroffene überhaupt wissen, dass detaillierte Profile über sie erstellt werden, bleibt damit jedoch unbeantwortet.
Ob eine solche Datensammlung tatsächlich rechtmässig ist, hängt von den geltenden Datenschutzbestimmungen und der konkreten Verarbeitung ab. Die Einschätzung des Gründers ist keine rechtliche Garantie.
KI soll menschliche Beziehungen besser verstehen als Menschen
Earle betrachtet die Technologie nicht als vorübergehende Entwicklung, sondern als grundlegenden Wandel wirtschaftlicher Beziehungen.
Er ist überzeugt, dass Unternehmen künftig auf KI-Agenten angewiesen sein werden, um die Bedürfnisse ihrer Kunden rechtzeitig zu erkennen. Mehr noch: Künstliche Intelligenz könnte seiner Ansicht nach eines Tages menschliche Beziehungen besser verstehen und aufrechterhalten als Menschen selbst.
Die Fähigkeit solcher Systeme, Informationen aus unterschiedlichsten Zusammenhängen miteinander zu verbinden, werde heute erheblich unterschätzt.
Dass Menschen diese Vorstellung als unheimlich empfinden könnten, scheint ihn nicht zu beunruhigen. Unabhängig davon, was die Öffentlichkeit darüber denke, werde die kontinuierliche Beobachtung durch KI-Agenten kommen. Ob man sie Überwachung nenne oder anders bezeichne, ändere daran nichts.
Damit zeichnet der Unternehmer eine Zukunft, in der die permanente Erfassung und Analyse menschlicher Aktivitäten nicht mehr als aussergewöhnlicher Eingriff betrachtet wird, sondern als selbstverständlicher Bestandteil geschäftlicher Beziehungen.
Ob sich diese Vision tatsächlich durchsetzt, ist offen. Doch bereits die Tatsache, dass ein von Y Combinator unterstütztes Startup die dauerhafte Beobachtung von Kunden ausdrücklich zum Geschäftsmodell macht und sein Mitgründer eine Benachrichtigung oder Widerspruchsmöglichkeit nicht für notwendig hält, zeigt, in welche Richtung sich Teile der KI-Industrie bewegen.
