Podsumowania opinii konsumenckich generowane przez AI – 7 problemów prawnych i rekomendacji

Czy rozwój sztucznej inteligencji AI stanowi zagrożenie dla wiarygodności całego ekosystemu opinii w polskim e-commerce?

• Coraz częściej spotykanym problemem są trudne do wykrycia, fałszywe opinie generowane przez AI – zawierają one nieistniejące informacje, fałszywe atrybucje autorstwa lub wyolbrzymiają zalety produktu, co może skutkować utratą zaufania konsumentów.
• Nieprawidłowo wygenerowane podsumowania mogą stanowić nieuczciwą praktykę rynkową, naruszać zbiorowe interesy konsumentów oraz przepisy dotyczące oznaczeń produktów i reklamy.

Przedstawiamy 7 wybranych problemów prawnych dotyczących opinii konsumenckich generowanych za pomocą AI.

1.Podsumowanie opinii, które nie istnieją.

• Opis: W procesie generowania podsumowań mogą pojawić się treści, które nie są obecne w opiniach konsumenckich. Może to być efekt tzw. halucynacji. Tego rodzaju podsumowania będą wiadomościami wprowadzającymi w błąd w celu uzyskania korzyści – sprzedaż przez zachęcenie do zakupu za pomocą podsumowania opinii. Tym samym będą naruszały prawo.
• Rekomendacja: Wzbogać kontekst i dodaj instrukcje w promptcie, aby narzędzie AI korzystało wyłącznie z przekazywanych inputów.

2. Podsumowanie opinii, które nie dotyczą produktu, przy którym podsumowanie jest zamieszczane.

• Opis: Automatyzacja generowania podsumowań spowodowała przedstawienie zbiorczej opinii na podstawie wkładów nie dotyczących danego produktu (np. innego produktu z oferty lub produktu konkurencji). Tego rodzaju podsumowanie będzie informacją wprowadzającą w błąd, może także skutkować fałszywym oznaczeniem pochodzenia produktu lub jego wprowadzającym w błąd oznaczeniem.
• Rekomendacja: Human in the loop – każdorazowe zatwierdzanie podsumowań przed ich publikacją.

3. Prezentowanie podsumowania jako pojedynczej opinii konsumenckiej.

• Opis: Podsumowanie opinii różnych konsumentów jako opinii przedstawionej przez jednego z nich wprowadza w błąd. Nie jest to konkretna opinia konkretnego użytkownika, a ogólny, skompilowany z wielu wypowiedzi tekst. Tym samym potencjalny konsument może podjąć decyzję o zakupie na podstawie opinii fałszywie określonej jako opinia indywidualnego klienta.
• Rekomendacja: Oznaczenie w interfejsie elementu z podsumowaniem opinii jako ,,Podsumowanie Opinii AI”, ,,Automatycznie wygenerowane podsumowanie opinii” lub podobnie.

4. Prezentowanie podsumowania w sposób sugerujący, że wynika ono z opinii konsumentów, którzy korzystali z produktu lub go zakupili, co nie jest prawdą.

• Opis: Podsumowanie prezentowane bez dodatkowych oznaczeń lub wyjaśnień w ramach interfejsu, który informuje, że opinie są zamieszczane tylko przez konsumentów, którzy używali danego produktu lub go nabyli, co nie jest prawdą. Tego rodzaju praktyka rynkowa jest zawsze nieuczciwa.
• Rekomendacja: Zmiana oznaczenia w zakresie pochodzenia opinii konsumenckich lub wprowadzenie mechanizmu weryfikacji, że opinie te zostały przedstawione przez konsumentów, którzy używali lub nabyli produkt (podjęcie uzasadnionych i proporcjonalnych kroków, aby sprawdzić, czy opinie pochodzą od tych konsumentów).

  Wciąż należy jednak oznaczyć podsumowanie jako wygenerowane przez AI, gdyż nie jest to opinia takiego konsumenta.

5. Podsumowanie zniekształca faktyczny feedback wynikający z opinii.

• Opis: Wygenerowane podsumowanie nie jest rzeczywistym i neutralnym odbiciem treści opinii. Zamiast tego polepsza wydźwięk opinii, prezentując produkt jako lepszy, aniżeli wynikałoby to z zapoznania się ze wszystkimi opiniami o nim.
• Rekomendacja: Dodanie zabezpieczeń w promptcie, aby narzędzie AI utrzymywało styl, wydźwięk, znaczenie i ton podsumowywanych opinii konsumenckich.

6. Wygenerowanie podsumowania bezpośrednio skierowanego do dzieci lub wykorzystujące ich łatwowierność.

• Opis: Działanie generatora podsumować opinii o produktach dla dzieci może spowodować, że tekst podsumowania będzie stanowić wezwanie dzieci do zakupu produktu. Może on także wytworzyć podsumowanie wykorzystujące łatwowierność dzieci przez odpowiednie sformułowania działające na ich wyobraźnię. Jest to działanie nieuczciwe, wykorzystujące podatność małoletnich klientów.
• Rekomendacja: Wdrożenie dodatkowych narzędzi lub procesów weryfikacji podsumowań przed ich publikowaniem w interfejsie.

7. Podsumowanie prezentuje funkcje produktu, które nie istnieją.

• Opis: Zbiorcze podsumowanie opinii wygenerowane przez AI prezentuje kluczowe funkcje produktu (np. te, na które uwagę zwrócili konsumenci), które nie istnieją. Jest to informacja wprowadzająca w błąd w zakresie cech, produktu, w tym nawet tych kluczowych.
• Rekomendacja: Dodanie do banku wiedzy, z którego korzysta AI, specyfikacji technicznych produktów i uzupełnienie polecenia o zasady wykorzystywania danych ze specyfikacji.