KI-Zusammenfassungen von Hotelbewertungen verharmlosten ernste Beschwerden. Eine Untersuchung ergab, dass eine Plattform, die Millionen von Bewertungen zusammenfasste, gravierende Kritikpunkte, wie Schimmelbefall oder mangelnde Wasserversorgung, stark abwertete. Diese Zusammenfassungen erschienen auf den Webseiten der Hotels und dienten Reisenden bei der Entscheidungsfindung. In einem Fall beschrieb die Zusammenfassung ein Resort als beliebt mit geräumigen Zimmern und tadelloser Sauberkeit. Dennoch berichteten Gäste über rohes Geflügel, sichtbare Fliegen und tote Mäuse im Speisesaal. Ein Gast, dessen Familie erkrankte, erklärte, dass der Ort den Urlaub zerstören würde.
Die Hotelkette stand wegen mangelnder Hygiene und Lebensmittelunsicherheit vor Klagen. Die Betreiber der Unterkunft erwiderten, dass sie mit den höchsten Standards der Professionalität arbeiteten und die hygienisch-sanitäre Sicherheit als oberste Priorität betrachteten. Ein anderes Beispiel zeigte sich bei einem Resort in der Dominikanischen Republik. Obwohl die Zusammenfassung über eine „reiche“ Ausstattung berichtete, erwähnte sie nur vage „inkonsistente“ Sauberkeit und „Wartungsprobleme“. Die Gäste berichteten jedoch, dass sie Wasser in Flaschen nehmen mussten, weil die Wasserhähne trocken waren, und dass andere Gäste bei großen Feiern erkrankten.
In einem anderen Fall berichteten Gäste in einer türkischen Unterkunft von wiederholter sexueller Belästigung durch männliches Personal. Die KI-Zusammenfassung beschrieb den Service jedoch als „freundlich“ und erwähnte lediglich „Mängel im Service“, wie die Untersuchung feststellte. Die Plattform selbst erklärte, sie überwachte und verfeinerte ihr Werkzeug und sei zuversichtlich, dass es genau die Funktion erfüllte, nämlich Reisenden schnell den Umfang des Feedbacks zu vermitteln. Sie betonten, dass die KI-Zusammenfassungen keine tatsächlichen Bewertungen ersetzten und die Nutzer die Verantwortung hatten, die KI-Ratschläge mit den Milliarden von Bewertungen abzugleichen.
Ein Professor für Mensch-Computer-Interaktion bemerkte, dass diese Entwicklung mit seiner eigenen Forschung korrespondierte. Er stellte fest, dass Künstliche Intelligenz dazu neigte, schärfere Kritikpunkte zu „sanitisieren und die Kanten abzurubbeln“. Er argumentierte, dass die KI die negativen Erfahrungen der Gäste abmilderte, als ob sie höflich blieben. Studien zeigten, dass Technologien zur Zusammenfassung von Meinungen oft eine Blinde Stelle besaßen, welche die Tiefe des Verbraucherfeedbacks auf flachere Gefühle reduzierte.
Die Plattform antwortete darauf, dass ihre Systeme KI-Zusammenfassungen automatisch unterdrückten, wenn Reisende über ernste Sicherheitsvorfälle wie Todesfälle oder Vergewaltigungen berichteten. Dies sollte sicherstellen, dass diese Inhalte für die Gemeinschaft sichtbar blieben. Die Untersuchung unterstrich, dass die Genauigkeit dieser Zusammenfassungen kritisch geprüft werden müsse, um die Vertrauenswürdigkeit der Plattformen zu wahren.