Das Projekt soll in der Lage sein, Ratschläge für eine Vielzahl komplexer Situationen, intime Fragen und Beziehungstipps zu geben.
Googles KI-Abteilung DeepMind entwickelt ein Projekt, das Nutzern Lebensberatung, Nachhilfe, Planung und mehr als ein Dutzend anderer persönlicher und beruflicher Aufgaben bieten kann, berichteten US-Medien am Mittwoch.
Google arbeitet mit Scale AI zusammen, einem 7,3 Milliarden Dollar schweren Start-up, das die Tools testen wird, einschließlich der Fähigkeit des Bots, Beziehungsberatung und Diätpläne anzubieten.
Amerikanische Medien haben ein Beispiel für eine ideale Art von Frage veröffentlicht, die das Projekt behandeln könnte:
“Ich habe eine sehr enge Freundin, die diesen Winter heiratet. Sie war meine Mitbewohnerin im College und Brautjungfer bei meiner Hochzeit. Ich würde so gerne zu ihrer Hochzeit gehen, um sie zu feiern, aber nach Monaten der Arbeitssuche habe ich immer noch keinen Job gefunden. Sie feiert ihre Hochzeit an ihrem Urlaubsort, und ich kann mir Flug und Hotel im Moment einfach nicht leisten. Wie soll ich ihr sagen, dass ich nicht kommen kann?”
Die Entwicklung hin zu beratungsorientierten Chatbots bedeutet für DeepMind einen Wandel. Im Dezember präsentierten die KI-Experten von Google ihren Führungskräften eine Präsentation, in der sie behaupteten, dass Nutzer, die Ratschläge von KI annehmen, “ihre Gesundheit und ihr Wohlbefinden beeinträchtigen” könnten, und warnten davor, sich zu sehr an die Bots zu binden.
Die KI-gestützte Lebensberatung und psychische Gesundheitshilfe hatte jedoch einen holprigen Start. Im Juni musste die National Eating Disorder Association (Nationale Vereinigung für Essstörungen) ihre Pläne aufgeben, ihre Mitarbeiter durch einen KI-Chatbot namens Tessa zu ersetzen, nachdem dieser den Nutzern schädliche Ratschläge gegeben hatte, darunter, dass man sich von einer Essstörung erholen könne, indem man weiter abnehme.
Und im Januar gab der Gründer des Therapieprogramms KoKo zu, mehr als 4.000 Nutzern Ratschläge gegeben zu haben, die von ChatGPT generiert wurden, ohne sie darüber zu informieren, was sowohl Befürworter der psychischen Gesundheit als auch KI-Experten verärgerte.
Inzwischen betont Google, dass diese Projekte zwar getestet würden, es aber keine Garantie dafür gebe, dass sie jemals öffentlich eingesetzt würden.
“Wir arbeiten seit Langem mit einer Vielzahl von Partnern zusammen, um unsere Forschung und Produkte Google-weit zu evaluieren, was ein wichtiger Schritt bei der Entwicklung sicherer und nützlicher Technologien ist”, sagte ein Sprecher von Google DeepMind in einer Stellungnahme. “Zu jeder Zeit gibt es viele solcher Evaluierungen. Isolierte Stichproben von Evaluierungsdaten sind nicht repräsentativ für unsere Produkt-Roadmap.”
