Twitter Elona Muska w dużym stopniu polega na automatyzacji do moderowania treści według nowego szefa firmy ds. Zaufania i bezpieczeństwa, wśród doniesień o wzroście mowy nienawiści na platformie mediów społecznościowych.
Ella Irwin powiedziała agencji informacyjnej Reuters, że Musk, który kupił firmę w październiku, skupił się na większym wykorzystaniu automatyzacji, argumentując, że Świergot w przeszłości popełniała błąd polegający na czasochłonnych i pracochłonnych przeglądach szkodliwych treści przez ludzi.
„Zachęcił zespół do podejmowania większego ryzyka, szybkiego działania i zapewnienia bezpieczeństwa platformy” – powiedziała.
Jeśli chodzi o bezpieczeństwo dzieci, Irwin powiedział, że Twitter zaczął automatycznie usuwać tweety zgłaszane przez zaufane osoby z doświadczeniem w dokładnym oznaczaniu szkodliwych postów.
Powiedziała również, że Twitter bardziej agresywnie ogranicza hashtagi i wyniki wyszukiwania podatne na nadużycia w obszarach obejmujących wykorzystywanie dzieci, niezależnie od potencjalnego wpływu na „łagodne użycie” tych terminów.
„Największą rzeczą, która się zmieniła, jest to, że zespół jest w pełni upoważniony do szybszego poruszania się i bycia tak agresywnym, jak to tylko możliwe” — powiedział Irwin.
Jej komentarze pojawiły się, gdy badacze donieśli o wzroście mowy nienawiści w mediach społecznościowych po tym, jak Musk ogłosił amnestię konta zawieszone pod poprzednim kierownictwem firmy które nie złamały prawa ani nie były zaangażowane w „rażący spam”.
Firma stanęła w obliczu ostrych pytań dotyczących jej zdolności i gotowości do moderowania szkodliwych i nielegalnych treści od Muska skosił połowę personelu Twittera i wydany ultimatum do długich godzin pracy powodując utratę setek kolejnych pracowników.
W piątek Musk obiecał „znaczące wzmocnienie moderacji treści i ochronę wolności słowa” podczas spotkania z prezydentem Francji Emmanuelem Macronem.
Irwin powiedział, że Musk zachęcał zespół, aby mniej martwił się o to, jak ich działania wpłyną na wzrost liczby użytkowników lub przychody, mówiąc, że bezpieczeństwo jest najwyższym priorytetem firmy. „Podkreśla to każdego dnia, wiele razy dziennie” – powiedziała.
Naukowcy twierdzą, że liczba nienawistnych tweetów na Twitterze wzrosła tydzień przed tym, jak Musk napisał na Twitterze 23 listopada, że spadły wrażenia lub poglądy na temat mowy nienawiści. Według badania przeprowadzonego przez Center to Combat Digital Hate liczba tweetów zawierających anty-czarny język w tym tygodniu była trzykrotnie większa niż w miesiącu poprzedzającym objęcie urzędu przez Muska, podczas gdy tweety zawierające gejowskie obelgi wzrosły o 31%.
Irwin powiedział, że zwolnienia nie wpłynęły znacząco na pełnoetatowych pracowników ani wykonawców pracujących w tym, co firma nazywa działami „zdrowia”, w tym w „obszarach krytycznych”, takich jak bezpieczeństwo dzieci i moderacja treści.
Powiedziała, że Twitter usunął około 44 000 kont zaangażowanych w naruszenie bezpieczeństwa dzieci, we współpracy z grupą Ghost Data zajmującą się cyberbezpieczeństwem.
Twitter ogranicza również hashtagi i wyniki wyszukiwania, które często kojarzą się z nadużyciami, na przykład te mające na celu wyszukiwanie „nastoletniej” pornografii. Powiedziała, że minęły obawy dotyczące wpływu takich ograniczeń na dozwolone użycie tego terminu.
Korzystanie z „zaufanych reporterów” to „coś, o czym rozmawialiśmy w przeszłości na Twitterze, ale było wahanie i, szczerze mówiąc, tylko opóźnienia” – powiedział Irwin.