Преку отворено писмо, објавено на „Future for Life Institute“, истражувачи од областа на вештачката интелигенција, но и познати имиња како Елон Маск и Стив Вознијак, повикуваат да се направи пауза на тренирањето на ВИ системите, посебно тие помоќни од GPT-4.
Според потпишаните, а писмото е отворено за нови потписи, вештачката интелигенција може да предизвика длабока промена во историјата на животот на Земјата, па поради тоа повикуваат на подобро планирање и менаџирање на истата.
Ова не е првпат да се предупредува на можните последици од брзиот развој на вештачката интелигенција, а ова посебно доаѓа од израз по нагло огромната популарност на ChatGPT при крајот на минатата година.
Сега веќе гледаме трка која е надвор од контрола, како што се истакнува во писмото, за развој и имплементација на „моќни дигитални умови, кои никој, дури ни нивните креатори, не ги разбираат, не можат да ги предвидат и да ги контролираат“.
Оваа трка за која говорат во писмото ја гледаме сите. Microsoft планира и веќе почнува да ја интегрира вештачката интелигенција во сите нивни производи и сервис, не само Bing. Google не се далеку во развојот на нивните модели, а тука се доста други компании кои побрзаа да претстават своја интеграција на GPT алатката од OpenAI.
Во писмото се повикуваат и на самите OpenAI кои изјавија дека во иднина би било важно да се добие независна ревизија пред да се започне со тренирање на идните системи, а за најнапредните напори да има сложување да се ограничи степенот на раст на компјутерската моќ која се користи за создавање на нови модели.
„Современите системи за вештачка интелигенција сега стануваат конкурентни на луѓето во општите задачи и мора да се запрашаме: Дали треба да дозволиме машините да ги преплават нашите информативни канали со пропаганда и невистини? Дали треба да ги автоматизираме сите работни места, вклучувајќи ги и оние што исполнуваат? Дали треба да развиеме нечовечки умови кои на крајот би можеле да бидат побројни, да не надмудрат, застарат и заменат? Дали треба да ризикуваме да ја загубиме контролата над нашата цивилизација? Таквите одлуки не смеат да се делегираат на неизбрани технолошки лидери. Моќните системи за вештачка интелигенција треба да се развијат само откако ќе бидеме уверени дека нивните ефекти ќе бидат позитивни и дека нивните ризици ќе можат да се менаџираат. Оваа доверба мора да биде добро оправдана и да се зголемува со големината на потенцијалните ефекти на системот.“ – стои во писмото.
Главното барање со писмото е да се направи пауза од шест месеци кај сите ВИ лаборатории кои тренираат системи помоќни од GPT-4. Оваа пауза тие истакнуваат дека треба да биде јавна и да може да се потврди, а доколку тоа не се случи, тие повикуваат на вмешување на властите.
Кратко кажано, со писмото се повикува да запре неконтролираната трка, да се развијат конкретни системи за контрола на развојот на вештачката интелигенција, како и да се доведе оваа контрола на ниво на регулација од страна на властите.
