Изминатата недела излегоа информации за тоа дека „четоботот“ на Google, Gemini, е толку „woke“ што тоа е веќе проблем дури и за една ваква компанија.
Поточно, се работи за проблем со прилично новата можност на Gemini да креира, односно генерира слики од луѓе. Кога корисниците почнале да ја користат оваа нова можност, откриени се две работи. Едната е дека Gemini додава неточни слики за историски моменти, како на пример ставање на црнци и азијати на слика за која е побарано да биде од Германија во Втората Светска Војна.
Исто така, Gemini одбива да генерира слики за кои конкретно се бара да бидат од луѓе белци, па станува очигледно дека јазичниот модел има голема влијание од страна на движењата кои се обидуваат да промовираат „диверзификација“ во сите можни области.
Обично резултатот од ваквите движења изминатите години е дека се што е поврзано со белците е лошо, па тие на кратко кажано се борат наводно против расизам со расизам против белците.
Google сепак реагираше на оваа ситуација, па новата можност за генерирање на слики од луѓе е привремено тргната. Од компанијата планираат да ги исправат грешките, па после доволно тестирања истата да ја вратат.
„Меѓутоа, ако го прашате Gemini за слики на специфичен тип на личност – како што е „црн учител во училница“ или „бел ветеринар со куче“ – или луѓе во одредени културни или историски контексти, апсолутно треба да добиете одговор кој точно го одразува она што го барате. Значи, што тргна наопаку? Накратко, две работи. Прво, нашето подесување за да се осигуриме дека Gemini покажува низа луѓе не успеа да ги земе предвид случаите кои очигледно не треба да покажуваат опсег. И второ, со текот на времето, моделот стана многу повнимателен отколку што сакавме и одби целосно да одговори на одредени барања – погрешно толкувајќи некои многу ненавредливи инструкции како чувствителни. Овие две работи го наведоа моделот да прекомпензира во некои случаи, а да биде преконзервативен во други, што доведе до слики кои беа засрамувачки и погрешни.“ – истакнуваат од Google.
