Chodzi głównie o tzw. treści deepfake, czyli np. filmy sfabrykowane z użyciem sztucznej inteligencji, dzięki której tworzy się hiperrealistyczne materiały. Takie materiały mogą np. pokazywać, że dana osoba powiedziała coś lub zrobiła, kiedy w rzeczywistości nie jest to prawdą.
Jak zapowiada firma, od marca tego typu wpisy zostaną oznaczone jako "fałszywe". Taka etykieta zostanie nałożona na wszystkie treści, które uznane zostaną za wyraźnie i celowo zmanipulowane lub sfabrykowane, niezależnie od tego jaka technologia została użyta do ich modyfikacji.
Będziemy raczej skupiać się na wydźwięku takich materiałów, a nie na tym jak zostały one zrobione – powiedział Reuterowi Yoel Roth z Twittera odpowiedzialny za spójność strony.
Twitter zapowiedział ponadto, że będzie bezwzględnie usuwał wszelkie celowo zmanipulowane materiały, które mogą być szkodliwe dla użytkowników i zawierać treści między innymi prowokujące niepokoje społeczne, niosące realne zagrożenie dla zdrowia internautów lub ryzyko naruszenia ich prywatności. Platforma chce także ostrzegać użytkowników przed publikowaniem i przesyłaniem dalej tego typu treści.
Firma nie zdradza jednak na jakiej podstawie zamierza oceniać czy dane treści faktycznie zostały zmanipulowane, żeby szerzyć dezinformację. Przyznaje jedynie, że chce w tym celu korzystać z pomocy zewnętrznych ekspertów.
Krytycy obawiają się, że usuwane mogą być również treści satyryczne, jeśli uznane one zostaną za celowo przerobione.
Twitter to nie jedyna platforma internetowa, która zapowiada walkę z fake newsami, zwłaszcza w obliczu nadchodzących w Stanach Zjednoczonych wyborów prezydenckich. Wcześniej w tym tygodniu także Google zadeklarował, że będzie usuwał wszystkie materiały, co do których jest podejrzenie, iż zostały przerobione w celu szerzenia dezinformacji. TikTok w ubiegłym miesiącu nałożył zakaz na fake newsy. Natomiast Facebook na początku roku zapowiedział, że będzie usuwał ze swoich stron fałszywe treści, w tym zmodyfikowane filmy, ale zostawi np. treści satyryczne.