Moderatorzy Twittera zwracają się ku automatyzacji w obliczu doniesień o wzroście mowy nienawiści | Świergot

Twitter Elona Muska w dużym stopniu polega na automatyzacji do moderowania treści według nowego szefa firmy ds. Zaufania i bezpieczeństwa, wśród doniesień o wzroście mowy nienawiści na platformie mediów społecznościowych.

Ella Irwin powiedziała agencji informacyjnej Reuters, że Musk, który kupił firmę w październiku, skupił się na większym wykorzystaniu automatyzacji, argumentując, że Świergot w przeszłości popełniała błąd polegający na czasochłonnych i pracochłonnych przeglądach szkodliwych treści przez ludzi.

„Zachęcił zespół do podejmowania większego ryzyka, szybkiego działania i zapewnienia bezpieczeństwa platformy” – powiedziała.

Jeśli chodzi o bezpieczeństwo dzieci, Irwin powiedział, że Twitter zaczął automatycznie usuwać tweety zgłaszane przez zaufane osoby z doświadczeniem w dokładnym oznaczaniu szkodliwych postów.

Powiedziała również, że Twitter bardziej agresywnie ogranicza hashtagi i wyniki wyszukiwania podatne na nadużycia w obszarach obejmujących wykorzystywanie dzieci, niezależnie od potencjalnego wpływu na „łagodne użycie” tych terminów.

„Największą rzeczą, która się zmieniła, jest to, że zespół jest w pełni upoważniony do szybszego poruszania się i bycia tak agresywnym, jak to tylko możliwe” — powiedział Irwin.

Jej komentarze pojawiły się, gdy badacze donieśli o wzroście mowy nienawiści w mediach społecznościowych po tym, jak Musk ogłosił amnestię konta zawieszone pod poprzednim kierownictwem firmy które nie złamały prawa ani nie były zaangażowane w „rażący spam”.

Firma stanęła w obliczu ostrych pytań dotyczących jej zdolności i gotowości do moderowania szkodliwych i nielegalnych treści od Muska skosił połowę personelu Twittera i wydany ultimatum do długich godzin pracy powodując utratę setek kolejnych pracowników.

W piątek Musk obiecał „znaczące wzmocnienie moderacji treści i ochronę wolności słowa” podczas spotkania z prezydentem Francji Emmanuelem Macronem.

Irwin powiedział, że Musk zachęcał zespół, aby mniej martwił się o to, jak ich działania wpłyną na wzrost liczby użytkowników lub przychody, mówiąc, że bezpieczeństwo jest najwyższym priorytetem firmy. „Podkreśla to każdego dnia, wiele razy dziennie” – powiedziała.

Naukowcy twierdzą, że liczba nienawistnych tweetów na Twitterze wzrosła tydzień przed tym, jak Musk napisał na Twitterze 23 listopada, że ​​spadły wrażenia lub poglądy na temat mowy nienawiści. Według badania przeprowadzonego przez Center to Combat Digital Hate liczba tweetów zawierających anty-czarny język w tym tygodniu była trzykrotnie większa niż w miesiącu poprzedzającym objęcie urzędu przez Muska, podczas gdy tweety zawierające gejowskie obelgi wzrosły o 31%.

Irwin powiedział, że zwolnienia nie wpłynęły znacząco na pełnoetatowych pracowników ani wykonawców pracujących w tym, co firma nazywa działami „zdrowia”, w tym w „obszarach krytycznych”, takich jak bezpieczeństwo dzieci i moderacja treści.

Powiedziała, że ​​Twitter usunął około 44 000 kont zaangażowanych w naruszenie bezpieczeństwa dzieci, we współpracy z grupą Ghost Data zajmującą się cyberbezpieczeństwem.

Twitter ogranicza również hashtagi i wyniki wyszukiwania, które często kojarzą się z nadużyciami, na przykład te mające na celu wyszukiwanie „nastoletniej” pornografii. Powiedziała, że ​​minęły obawy dotyczące wpływu takich ograniczeń na dozwolone użycie tego terminu.

Korzystanie z „zaufanych reporterów” to „coś, o czym rozmawialiśmy w przeszłości na Twitterze, ale było wahanie i, szczerze mówiąc, tylko opóźnienia” – powiedział Irwin.