Nach einer kürzlich veröffentlichten Studie glauben Menschen, die Mainstream-Quellen, bzw. anderen Menschen misstrauen, umso eher einer künstlichen Intelligenz (KI). Die Forscher sagen, dass die Ergebnisse praktische Auswirkungen sowohl für die Entwickler als auch für die Nutzer von KI-Tools in sozialen Medien haben.

“Wir haben ein systematisches Muster gefunden, bei dem Personen, die weniger Vertrauen in andere Menschen haben, ein größeres Vertrauen in die Klassifizierung von KI haben”, sagte S. Shyam Sundar, der James P. Jimirro Professor für Medieneffekte an der Penn State. “Nach unserer Analyse scheint dies darauf zurückzuführen zu sein, dass die Nutzer sich auf die Vorstellung berufen, dass Maschinen genau, objektiv und frei von ideologischen Vorurteilen sind.”

Die Studie, “Does distrust in humans predict greater trust in AI? Role of individual differences in user responses to content moderation, veröffentlicht im Journal of New Media & Society fand heraus, dass Nutzer mit konservativer politischer Ideologie eher der KI-gestützten Moderation als Mainstream-Quellen vertrauen. Molina und Co-Autor Sundar, der auch Co-Direktor des Penn State’s Media Effects Research Laboratory ist, sagten, dass dies auf ein Misstrauen gegenüber den Mainstream-Medien und Social Media-Unternehmen zurückzuführen sein könnte.

Die Studie ergab auch, dass “Power-User”, die erfahrene Nutzer von Informationstechnologie sind, die entgegengesetzte Tendenz hatten. Sie vertrauten den KI-Moderatoren weniger, weil sie glauben, dass Maschinen nicht die Fähigkeit haben, Nuancen der menschlichen Sprache zu erkennen.

Die Studie ergab, dass individuelle Unterschiede wie Misstrauen gegenüber anderen und Machtgebrauch vorhersagen, ob Nutzer sich auf positive oder negative Eigenschaften von Maschinen berufen werden, wenn sie mit einem KI-basierten System für die Moderation von Inhalten konfrontiert werden, was letztendlich ihr Vertrauen in das System beeinflusst.

Die Forscher vermuten, dass die Personalisierung von Schnittstellen auf der Grundlage individueller Unterschiede die Nutzererfahrung positiv verändern kann. Die Art der Inhaltsmoderation in der Studie beinhaltet die Überwachung von Social Media Beiträgen auf problematische Inhalte wie Hassreden und Selbstmordgedanken.

Die Forscher rekrutierten 676 Teilnehmer aus den Vereinigten Staaten. Den Teilnehmern wurde gesagt, dass sie dabei helfen würden, ein System zur Moderation von Inhalten zu testen, das sich in der Entwicklung befand. Ihnen wurden Definitionen von Hassreden und Selbstmordgedanken vorgelegt, gefolgt von einem von vier verschiedenen Beiträgen in sozialen Medien. Die Beiträge wurden entweder markiert, wenn sie diesen Definitionen entsprachen, oder nicht markiert. Den Teilnehmern wurde auch mitgeteilt, ob die Entscheidung, den Beitrag zu kennzeichnen oder nicht, von einer KI, einem Menschen oder einer Kombination aus beidem getroffen wurde.

Nach der Demonstration folgte ein Fragebogen, in dem die Teilnehmer nach ihren individuellen Unterschieden gefragt wurden. Zu den Unterschieden gehörten ihre Neigung, anderen zu misstrauen, ihre politische Ideologie, ihre Erfahrung mit Technologie und ihr Vertrauen in KI.

Molina und Sundar sagen, dass ihre Ergebnisse dazu beitragen könnten, die zukünftige Akzeptanz von KI zu beeinflussen. Durch die Entwicklung von Systemen, die auf den Benutzer zugeschnitten sind, könnten die Designer Skepsis und Misstrauen abbauen und ein angemessenes Vertrauen in KI aufbauen.