Високиот комесар на ОН за човекови права, Волкер Турк, денес предупреди за итна потреба од развој на управување за вештачката интелигенција, велејќи дека таа може да претставува егзистенцијален ризик за човештвото.
„Вештачката интелигенција што ја избегнува својата средина за тестирање или ги уценува програмерите да избегнат деактивирање е премногу моќна вештачка интелигенција“, рече Турк на отворањето на 63-та сесија на Советот за човекови права во Женева, повикувајќи на „силни заштитни мерки за безбедноста на вештачката интелигенција пред да биде предоцна“.
„Неколку луѓе имаат речиси неограничена моќ над вештачката интелигенција, за која постојано ни се вели дека има незамислива компјутерска моќ. Тие зборуваат за слобода, но по подетално испитување, се покажува дека е малку повеќе од слобода да ги искористиме нашите податоци“, рече Турк.
„Вештачката интелигенција што ја манипулира човекот е веќе реалност. Најновите генеративни модели на вештачка интелигенција повеќе не само што ги следат наредбите и одат дотаму што лажат, смислуваат или се закануваат дека ќе ги постигнат своите цели, што предизвика голема загриженост кај некои истражувачи“, рече висок функционер на ОН.
Турк рече дека ќе им пише на компаниите во секторот во наредните денови „за да ги повика да преземат мерки во нивна моќ за да ги намалат ризиците“.
„Ни треба независна верификација и многу поблиска соработка во однос на безбедноста во рамките на индустријата“, рече Турк, повикувајќи на разгледување на „влијанието на вештачката интелигенција врз практиките на вработување, основните демократски принципи и животната средина“.
