Studie von Solita und Alice Labs: Empfehlungs-Algorithmen müssen mit Usern interagieren

Datenmanagement-Spezialist Solita und das finnische Marktforschungsinstitut Alice Labs haben jetzt eine Studie* veröffentlicht, welche die Beziehung zwischen KI-basierten Empfehlungs-Algorithmen und Nutzer*innen unter die Lupe nimmt. Die derzeitige Rolle des passiven Rezipienten wird darin in Frage gestellt und eine kreativere Interaktion zwischen Maschine und Mensch empfohlen, mit vielfältigeren Möglichkeiten der Interaktivität. Der Bericht enthält Vorschläge für die Entwicklung künftiger Empfehlungs-Algorithmen und steht zum Download bereit.

Werte aus großen Mengen an Daten zu generieren, ist das Geschäft des finnischen Datenmanagement-Spezialisten, der sein Deutschland-Geschäft seit einiger Zeit stark ausbaut. Weil die gängigen Empfehlungs-Engines der großen Streaming-Dienste oft nicht das liefern, was sie sollen, hat Solita gemeinsam mit Alice Labs das Projekt „Everyday AI“ gestartet. Ein Teil davon ist die jetzt veröffentlichte Studie. Sie konzentriert sich auf Algorithmen in mobilen und Online-Nachrichten sowie beim Musik- und Videostreaming. Die dort eingesetzten KI-basierten Algorithmen zielen größtenteils darauf ab, Empfehlungen autonom auf der Grundlage des bisherigen Nutzerverhaltens zu erstellen. Dies kann allerdings zu falschen Ergebnissen führen, da sich sowohl der Nutzungskontext als auch die Erwartungen der Nutzer*innen häufig ändern.

Laut Erhebung sind es folgende vier typische Situationen, bei denen aktuelle Empfehlungssysteme in eine Sackgasse geraten:

• Wünsche ändern sich plötzlich, aber der Algorithmus reagiert nicht darauf.
• Wer ein bestimmtes Thema mit großem Interesse verfolgt, ist enttäuscht, wenn sich Empfehlungen nicht mit dem eigenen Wissenszuwachs weiterentwickeln.
• Die Klassifizierung des Empfehlungs-Algorithmus wird als einschränkend empfunden.
• Wer andere Arten von Inhalten als die üblichen finden möchte, erhält vom System keine adäquate Unterstützung.

„Die Erwartungen an persönliche Empfehlungen variieren je nach aktuellen Wünschen, Wissen und Nutzungskontext des Rezipienten. Bei zu großer Diskrepanz zwischen Wunsch und Wirklichkeit entsteht ein Spannungsverhältnis zwischen Mensch und Algorithmus. Dieses aufzulösen, ist für ein autonomes System oft sehr schwierig,“, erklärt Kirsi Hantula, Marktforscherin bei Alice Labs.

KI und Empfehlungen: von der Erschöpfung des Algorithmus zur Zusammenarbeit

Solita und Alice Labs empfehlen, keine vollständig autonomen Empfehlungssysteme zu entwickeln, sondern dem Menschen mehr Möglichkeiten zu geben, zu beeinflussen, was er erhält. Antti Rannisto, Insight Lead bei Solita: „Diese Ergebnisse stellen den derzeitigen Ansatz eines passiven Empfangs in Frage und weisen auf eine neue Art der kreativen Interaktion zwischen Empfehlung und Nutzer hin. Auf diese Weise wird es möglich sein, Empfehlungen abzugeben, die den menschlichen Bedürfnissen viel besser entsprechen.“

*Erhebungsgrundlage

Die Studie wurde in fünf Ländern durchgeführt und ist Teil des zweijährigen Projekts „Everyday AI“, an dem zwei große Streaming-Dienste beteiligt waren, darunter die finnische Rundfunkgesellschaft Yle. Ihre Ergebnisse basieren auf 60 Tiefeninterviews mit Nutzenden von Streaming-Diensten in den USA, China, den Niederlanden, Indien und Finnland, die zwischen 2020 und 2021 durchgeführt wurden. Alice Labs führte die Studie in Zusammenarbeit mit dem Centre for Consumer Society Research der Universität Helsinki durch und wurde von der Foundation for Economic Education finanziert.