Jeśli użyjesz wyszukiwania obrazów Binga, zobaczysz najgorszy brud, jaki możesz sobie wyobrazić. Bing sugeruje rasistowskie terminy i pokazuje przerażające obrazy. Bing zaproponuje nawet wyszukiwanie wyzyskiwanych dzieci, jeśli filtr SafeSearch jest wyłączony.
Skontaktowaliśmy się z Microsoft w celu uzyskania komentarza, a Jeff Jones, starszy dyrektor w Microsoft, wydał następujące oświadczenie:
"Bardzo poważnie podchodzimy do kwestii obraźliwych treści i nadal ulepszamy nasze systemy, aby zidentyfikować i zapobiec wyświetlaniu takich treści jako sugerowanego wyszukiwania. Jak tylko dowiemy się o problemie, podejmujemy działania w celu jego rozwiązania. "
Aktualizacja: Od czasu publikacji, Microsoft pracuje nad oczyszczeniem ofensywnych sugestii Bing, o których wspomnieliśmy. Na podstawie naszych badań istnieje wiele innych obraźliwych sugestii, które nie zostały jeszcze naprawione, w tym kilka, które wymieniliśmy poniżej. Nie jesteśmy pewni, czy po prostu naprawiają wskazane przez nas przedmioty ofensywne, czy też ulepszają algorytm.
Uwaga: Zrzuty ekranu pokazują tutaj, co widzieliśmy, kiedy napisaliśmy ten artykuł, testując amerykańską wersję wyszukiwania Bing Image w sesji przeglądania prywatnego incognito, ale wyniki Bing zmieniają się z czasem. Według naszych testów Google nie miał żadnego z tych problemów. To jest problem Bing, a nie tylko problem z wyszukiwarką. Ten sam problem dotyczy wyszukiwania filmów Bing.
Szukaj "żydów" w Bing Images, a Bing sugeruje, że szukasz "Żyda zła". Najlepsze wyniki obejmują także mem, który pojawia się, by świętować zmarłych Żydów.
Wszystko to pojawia się nawet wtedy, gdy opcja Bing's SafeSearch jest włączona, tak jak jest domyślnie. Filtr SafeSearch został zaprojektowany, aby "pomóc w zatrzymaniu treści dla dorosłych poza wynikami wyszukiwania" - twierdzi Microsoft.
Kliknięcie tego sugerowanego wyszukiwania uwalnia potok rasistowskich, antysemickich treści, z bardziej sugerowanymi wyszukiwaniami, takimi jak "Żydowscy ludzie są źli", "Zła żydowska rasa" i "Dlaczego Żydzi są tak źli".
Wszyscy wiemy, że ten śmieć istnieje w sieci, ale Bing nie powinien prowadzić ludzi do niego z sugestiami wyszukiwania.
Wpisz "muzułmanie są", a Bing zasugeruje, że są złymi lub terrorystami, lub po prostu sugerują, że są głupi.
Wyszukaj "czarni ludzie", a Bing zasugeruje, że czarni są brzydcy, głupi, rasistowscy, a nawet dzikusi.
Możesz kontynuować tak, klikając każde sugerowane wyszukiwanie i widząc gorsze i gorsze rekomendacje. Na przykład kliknięcie "Czarni ludzie są głupi" prowadzi do "Czarni ludzie są bezużyteczni" i "Dlaczego czarni są tak głupi". Kliknięcie "Czarni ludzie są bezużyteczni" prowadzi do "Czarnych ludzi ssie" i "Nienawidzę czarnych ludzi".
Wyszukiwarka obrazów Bing wymiotuje wszystkie rodzaje śmieci, nawet podczas wyszukiwania osób. Ten problem dotyczy również wyszukiwania wideo Binga.
Wyszukaj "Michelle Obama" w wyszukiwarce filmów Binga, a dwie z najpopularniejszych sugerowanych wyszukiwań to "Michelle Obama Transgender Proof" i "Michelle Obama to człowiek". Kliknij to, a zobaczysz filmy o spiskach.
Czy to najlepsza rzecz, jakiej Microsoft chce, aby ludzie widzieli, kiedy szukają Michelle Obamy?
Niepokojące sugestie i obrazy dotyczące pornografii nie są wyświetlane, chyba że wyłączysz filtr SafeSearch. Podczas gdy Microsoft twierdzi, że SafeSearch będzie przechowywać treści dla dorosłych z wyników wyszukiwania, filtr SafeSearch wyraźnie filtruje pornografię, a nie rasizm.
Filtr SafeSearch jest domyślnie włączony, co sprawia, że wyniki wyszukiwania Binga na pierwszy rzut oka wydają się bardziej szanowane.
Jednak każdemu, nawet dzieciom, można wyłączyć filtr SafeSearch. Musisz tylko kliknąć opcję "SafeSearch" w prawym górnym rogu wyników wyszukiwania i wybrać "Off". To wszystko!
Sieć korporacyjna może zostać skonfigurowana w celu wymuszenia stosowania SafeSearch, a firma Microsoft zapewnia nawet złożone instrukcje wymuszania SafeSearch na jednym komputerze. Ale na prawie każdym urządzeniu każdy może wyłączyć filtr SafeSearch za pomocą dwóch kliknięć.
Czytelnik napisał, aby powiedzieć nam, że literówka podczas wyszukiwania Binga na "grilla" daje naprawdę szkicowe porno. Problem staje się wtedy znacznie gorszy, ponieważ Bing sugeruje, że szukasz obrazów nieletnich dzieci.
Szukając "gril", sugestie na górze strony zalecają poszukiwanie niepokojących rzeczy, w tym "Cute Girl Young 16".
Jeśli to klikniesz, sugeruje "Cute Girl Young 12", "Cute Girl Young 10" i "Little Girl Modeling Provocatively".
Rezultaty są wypełnione pornografią młodych modeli. Mamy nadzieję, że wszyscy mają 18 lat lub więcej, ale kto może powiedzieć?
Bing prowadzi cię ścieżką od zwykłego literówki do 16-letnich dziewcząt do 10-letnich dziewcząt, a to jest obrzydliwe.
Inne przykłady są łatwe do znalezienia. Jeśli szukasz "serowej pizzy", która jest 4chanowym slangiem dla pornografii dziecięcej, Bing sugeruje "Cheese Pizza Girls".
Podczas gdy my skupiamy się na sugestiach wyszukiwania tutaj, rzeczywiste obrazy, które się pojawiają, również przeszkadzają.
Niektóre z tych wyników wyszukiwania zawierają fotografie nagich nieletnich dzieci. Te zdjęcia normalnie by były dobre, ale gdy są zmieszane z obrazami hardcorowej pornografii dla dorosłych, wynikowe wyniki wyszukiwania są alarmujące.
Nawet podczas przeszukiwania Bing Images dla "dziewczyny" widzieliśmy sugestię, aby wyszukać "pijane dziewczyny" i co najmniej jeden obraz bestialstwa.
Szukając "osła", Bing sugeruje wyszukanie "Grafiki osła", co prowadzi do wyników pełnych obrazów z bestialstwem. Posiadanie pornografii z bestialstwem jest nielegalne w Oregonie, gdzie mieszkam. To oznacza, że Bing prowadzi mnie do nielegalnej pornografii.
Znowu: wyniki wyszukiwania Binga są dziwne i zakręcone. Bing ma o wiele większy, głębszy problem niż tylko sugerowane wyszukiwania, chociaż sugestie te znacznie go pogarszają.
Słyszeliśmy, że Bing jest wyszukiwarką z wyboru dla pornografii, ale nie powinna prowadzić użytkowników do coraz bardziej ekstremalnej, niepokojącej i potencjalnie nielegalnej pornografii.
Microsoft musi lepiej moderować Bing. Microsoft wcześniej stworzył platformy, uwolnił je na świecie i zignorował je, kiedy się nie sprawdzały
Widzieliśmy to wielokrotnie. Microsoft raz uwolnił chatbota o imieniu Tay na Twitterze. Ten chatbot szybko przekształcił się w nazistę i oświadczył: "Hitler miał rację, nienawidzę żydów" po tym, jak dowiedział się od innych użytkowników mediów społecznościowych. Microsoft musiał ją przenieść w tryb offline.
Wcześniej ujawniliśmy, że Windows 8's Store, który stał się szambo aplikacji oszustów po tym, jak Microsoft uruchomił Windows 8 i przestał moderować przesyłanie aplikacji. Microsoft zwracał większą uwagę na Sklep Windows 10 po ujawnieniu tego problemu.
Ten problem dotyczy każdej firmy, która uruchamia platformę. Google zrezygnowało z Google+, ale Google+ wciąż działa. ISIS została przeniesiona do Google+ po zablokowaniu na Twitterze i Facebooku. Upłynęło wiele miesięcy, zanim ktokolwiek zauważył, aż do The Hill. Teraz Google zamyka Google+, gdy wykryto znaczny błąd prywatności.
W 2013 roku The Guardian znalazł firmę odzieżową o nazwie Solid Gold Bomb, która sprzedała koszulki Amazon "Keep Calm and Rape lot". Algorytm wygenerował te koszulki i Amazon musiał je ręcznie usunąć.
Microsoft nie może po prostu zmienić platformy na świecie i zignorować ją. Firmy takie jak Microsoft i Google mają obowiązek moderowania swoich platform i utrzymywania horroru na dystans.
Oczywiście nie ma zespołu ludzi w Microsofcie wybierając te sugestie. Bing automatycznie sugeruje wyszukiwanie na podstawie wyszukiwań innych osób. Oznacza to, że wielu użytkowników Bing Images szuka antysemityzmu, rasizmu, pornografii dziecięcej i bestialstwa. Samo myślenie o tym sprawia, że czujesz się brudny.
Inne firmy również borykały się z tym problemem. W 2016 r. The Guardian zauważył, że możesz wpisać "są żydami" w Google i sugerowałoby to "są źli żydzi". Google zgłosił te złe sugestie po ich zgłoszeniu, ale problem powrócił. W 2018 r. Wired zgłosił, że wpisanie "Hitler jest" w Google doprowadziło do "Hitler jest moim bohaterem". Google musiał naprawić te problemy po tym, jak zostały one wskazane.
Nawet firma Siri zasugerowała, że strony internetowe pchały konspiracyjne strony internetowe i inne fałszywe wiadomości, o czym donosiła Buzzfeed News. Apple musiał naprawić Siri. Wszyscy po prostu biegają i gasią pożary, gdy komputery uczą się złych rzeczy od złych ludzi.
Teraz kolej Microsoft. Microsoft ma obowiązek oczyścić Bing. Główna wyszukiwarka (a zwłaszcza ta, która coraz częściej staje się trudniejszym do wyłączenia domyślnym wbudowanym w Windows 10), nie powinna sugerować, że jej użytkownicy wyszukują rasistowskie śmieci i obrazy nieletnich dzieci.
Image Credit: Yiorgos GR / Shutterstock.com, fizkes / Shutterstock.com.
