Îñíîâàòåëü êîñìè÷åñêîé êîìïàíèè SpaceX Èëîí Ìàñê, ñîó÷ðåäèòåëü êîðïîðàöèè Apple Ñòèâ Âîçíÿê è åùå òûñÿ÷à äðóãèõ ýêñïåðòîâ è ó÷åíûõ ñ ìèðîâûì èìåíåì ïîäïèñàëè îòêðûòîå ïèñüìî ñ ïðèçûâîì íà ïîëãîäà çàìîðîçèòü èññëåäîâàíèÿ èñêóññòâåííîãî èíòåëëåêòà è íåéðîñåòåé, áîëåå ìîùíûõ, ÷åì íåäàâíî ïðåçåíòîâàííàÿ GPT-4.
«Ñèñòåìû èñêóññòâåííîãî èíòåëëåêòà ñ èíòåëëåêòîì, êîíêóðèðóþùèì ñ ÷åëîâåêîì, ìîãóò ïðåäñòàâëÿòü ñåðüåçíóþ îïàñíîñòü äëÿ îáùåñòâà è ÷åëîâå÷åñòâà, êàê ïîêàçàëè îáøèðíûå èññëåäîâàíèÿ è ïðèçíàíî âåäóùèìè ëàáîðàòîðèÿìè èñêóññòâåííîãî èíòåëëåêòà <…> ïðîäâèíóòûé ÈÈ ìîæåò ïðåäñòàâëÿòü ñîáîé ãëóáîêîå èçìåíåíèå â èñòîðèè æèçíè íà Çåìëå, è åãî ñëåäóåò ïëàíèðîâàòü è óïðàâëÿòü èì ñ ñîðàçìåðíîé òùàòåëüíîñòüþ è ðåñóðñàìè. Ê ñîæàëåíèþ, òàêîãî óðîâíÿ ïëàíèðîâàíèÿ è óïðàâëåíèÿ íå ñóùåñòâóåò, äàæå íåñìîòðÿ íà òî, ÷òî â ïîñëåäíèå ìåñÿöû ëàáîðàòîðèè èñêóññòâåííîãî èíòåëëåêòà çàñòðÿëè â íåêîíòðîëèðóåìîé ãîíêå ïî ðàçðàáîòêå è ðàçâåðòûâàíèþ âñå áîëåå ìîùíûõ öèôðîâûõ óìîâ, êîòîðûå íèêòî — äàæå èõ ñîçäàòåëè — íå ìîæåò ïîíÿòü. ïðîãíîçèðîâàòü èëè íàäåæíî êîíòðîëèðîâàòü», - ãîâîðèòñÿ â òåêñòå îáðàùåíèÿ.
Àâòîðû ïåòèöèè òàêæå îòìåòèëè, ÷òî ïðîäâèíóòûå íåéðîñåòè óæå ìîãóò êîíêóðèðîâàòü ñ ëþäüìè çà âûïîëíåíèå îáùèõ çàäà÷.
«È ìû äîëæíû ñïðîñèòü ñåáÿ: äîëæíû ëè ìû ïîçâîëÿòü ìàøèíàì íàâîäíÿòü íàøè èíôîðìàöèîííûå êàíàëû ïðîïàãàíäîé è íåïðàâäîé? Äîëæíû ëè ìû àâòîìàòèçèðîâàòü âñå ðàáî÷èå ìåñòà, â òîì ÷èñëå óïðàâëÿþùèå? Äîëæíû ëè ìû ðàçâèâàòü íå÷åëîâå÷åñêèå óìû, êîòîðûå â êîíå÷íîì èòîãå ìîãóò ïðåâçîéòè íàñ ÷èñëåííîñòüþ, ïåðåõèòðèòü, ñäåëàòü íàñ óñòàðåâøèìè è çàìåíèòü íàñ? Äîëæíû ëè ìû ðèñêîâàòü ïîòåðåé êîíòðîëÿ íàä íàøåé öèâèëèçàöèåé? Òàêèå ðåøåíèÿ íå äîëæíû äåëåãèðîâàòüñÿ íåèçáðàííûì ëèäåðàì òåõíîëîãèé. Ìîùíûå ñèñòåìû èñêóññòâåííîãî èíòåëëåêòà ñëåäóåò ðàçðàáàòûâàòü òîëüêî òîãäà, êîãäà ìû óâåðåíû, ÷òî èõ ýôôåêòû áóäóò ïîëîæèòåëüíûìè, à ðèñêè óïðàâëÿåìûìè» - ïîëàãàþò àâòîðû ïèñüìà.
