Ó×ÅÍÛÅ: ÑÂÅÐÕÐÀÇÓÌÍÛÉ ÈÈ ÓÃÐÎÆÀÅÒ ×ÅËÎÂÅ×ÅÑÒÂÓ |
||
ÌÅÍÞ Ãëàâíàÿ ñòðàíèöà Ïîèñê Ðåãèñòðàöèÿ íà ñàéòå Ïîìîùü ïðîåêòó Àðõèâ íîâîñòåé ÒÅÌÛ Íîâîñòè ÈÈ Ãîëîñîâîé ïîìîùíèê Ðàçðàáîòêà ÈÈÃîðîäñêèå ñóìàñøåäøèå ÈÈ â ìåäèöèíå ÈÈ ïðîåêòû Èñêóññòâåííûå íåéðîñåòè Èñêóññòâåííûé èíòåëëåêò Ñëåæêà çà ëþäüìè Óãðîçà ÈÈ ÈÈ òåîðèÿ Âíåäðåíèå ÈÈÊîìïüþòåðíûå íàóêè Ìàøèííîå îáó÷. (Îøèáêè) Ìàøèííîå îáó÷åíèå Ìàøèííûé ïåðåâîä Íåéðîííûå ñåòè íà÷èíàþùèì Ïñèõîëîãèÿ ÈÈ Ðåàëèçàöèÿ ÈÈ Ðåàëèçàöèÿ íåéðîñåòåé Ñîçäàíèå áåñïèëîòíûõ àâòî Òðåçâî ïðî ÈÈ Ôèëîñîôèÿ ÈÈ Big data Ðàáîòà ðàçóìà è ñîçíàíèåÌîäåëü ìîçãàÐîáîòîòåõíèêà, ÁÏËÀÒðàíñãóìàíèçìÎáðàáîòêà òåêñòàÒåîðèÿ ýâîëþöèèÄîïîëíåííàÿ ðåàëüíîñòüÆåëåçîÊèáåðóãðîçûÍàó÷íûé ìèðÈÒ èíäóñòðèÿÐàçðàáîòêà ÏÎÒåîðèÿ èíôîðìàöèèÌàòåìàòèêàÖèôðîâàÿ ýêîíîìèêà
Ãåíåòè÷åñêèå àëãîðèòìû Êàïñóëüíûå íåéðîñåòè Îñíîâû íåéðîííûõ ñåòåé Ðàñïîçíàâàíèå ëèö Ðàñïîçíàâàíèå îáðàçîâ Ðàñïîçíàâàíèå ðå÷è Òâîð÷åñòâî ÈÈ Òåõíè÷åñêîå çðåíèå ×àò-áîòû Àâòîðèçàöèÿ |
2022-09-16 07:37 Ñâåðõðàçóìíûé èñêóññòâåííûé èíòåëëåêò ìîæåò äàòü ñáîé è óíè÷òîæèòü ÷åëîâå÷åñòâî. Îá ýòîì ïðåäóïðåäèëè ó÷åíûå èç Îêñôîðäñêîãî óíèâåðñèòåòà è ëàáîðàòîðèè DeepMind â íîâîé íàó÷íîé ðàáîòå. Êîìàíäà ïîïûòàëàñü ñïðîãíîçèðîâàòü, êàê ÈÈ ñ ñèñòåìàìè âîçíàãðàæäåíèÿ ìîãóò âûéòè èç-ïîä êîíòðîëÿ è íàâðåäèòü ëþäÿì. Çà îñíîâó èññëåäîâàíèÿ ó÷åíûå âçÿëè ãåíåðàòèâíî-ñîñòÿçàòåëüíûå íåéðîñåòè (GAN), ñîñòîÿùèå èç äâóõ ÷àñòåé: ãåíåðàòîðà è äèñêðèìèíàòîðà. Ïåðâûé êîìïîíåíò ïðåäíàçíà÷åí äëÿ ñîçäàíèÿ èçîáðàæåíèé, à âòîðîé — äëÿ èõ îöåíêè. Ó÷åíûå ïðåäïîëîæèëè, ÷òî â êàêîé-òî ìîìåíò ïðîäâèíóòûé ÈÈ, êîíòðîëèðóþùèé âàæíóþ ôóíêöèþ, ìîæåò ïðèáåãíóòü ê ìîøåííè÷åñêîé ñòðàòåãèè äëÿ ïîëó÷åíèÿ âîçíàãðàæäåíèÿ. «Â çàäàííûõ óñëîâèÿõ íàø âûâîä íàìíîãî ñèëüíåå ëþáîé ïðåäûäóùåé ïóáëèêàöèè — ýêçèñòåíöèàëüíàÿ êàòàñòðîôà íå ïðîñòî âîçìîæíà, îíà âåðîÿòíà», — ñêàçàë äîêòîð òåõíè÷åñêèõ íàóê Îêñôîðäñêîãî óíèâåðñèòåòà Ìàéêë Êîýí. Ó÷åíûé ñ÷èòàåò, ÷òî â ìèðå ñ îãðàíè÷åííûìè ðåñóðñàìè èñêóññòâåííî ñîçäàííûå ñèñòåìû ïîñòàðàþòñÿ ïåðåõèòðèòü êîíêóðåíòîâ. Äëÿ èëëþñòðàòèâíûõ öåëåé èññëåäîâàòåëè ïðåäñòàâèëè ñöåíàðèè, â êîòîðûõ ïðîäâèíóòàÿ ïðîãðàììà ìîæåò âìåøàòüñÿ äëÿ ïîëó÷åíèÿ âîçíàãðàæäåíèÿ áåç äîñòèæåíèÿ çàäàííîé öåëè. Íàïðèìåð, ÈÈ ìîæåò çàõîòåòü «óñòðàíèòü ïîòåíöèàëüíûå óãðîçû» è «èñïîëüçîâàòü âñþ äîñòóïíóþ ýíåðãèþ», ÷òîáû îáåñïå÷èòü êîíòðîëü íàä ñâîåé íàãðàäîé. «Íàì ñëåäóåò ñ áîëüøåé ïîäîçðèòåëüíîñòüþ îòíîñèòüñÿ ê èñêóññòâåííûì àãåíòàì, êîòîðûå ìû ðàçâîðà÷èâàåì ñåãîäíÿ, à íå ïðîñòî ñëåïî îæèäàòü îò íèõ èñïîëíåíèÿ ïîñòàâëåííûõ çàäà÷», — ñêàçàë Êîýí. Èññëåäîâàòåëè òàêæå ïðåäïîëîæèëè, ÷òî íà äàííîì ýòàïå ðàçâèòèÿ ÈÈ ñëåäóåò çàìåäëèòü èëè ïðèîñòàíîâèòü ðàçðàáîòêè ñâåðõðàçóìíûõ àëãîðèòìîâ. Êîìïàíèÿ Google, âëàäåþùàÿ ëàáîðàòîðèåé DeepMind, â êîììåíòàðèè äëÿ Motherboard çàÿâèëà î íåïðè÷àñòíîñòè ê äàííîé ðàáîòå. Ïî ñëîâàì ïðåäñòàâèòåëÿ òåõãèãàíòà, îäèí èç ñîàâòîðîâ ñòàòüè Ìàðêóñ Õàòòåð âûñòóïèë îò èìåíè Àâñòðàëèéñêîãî íàöèîíàëüíîãî óíèâåðñèòåòà. «DeepMind íå ó÷àñòâîâàë â ýòîé ðàáîòå, è àâòîðû ñòàòüè çàïðîñèëè èñïðàâëåíèÿ, ÷òîáû îòðàçèòü ýòî.  DeepMind ñóùåñòâóåò øèðîêèé ñïåêòð âçãëÿäîâ è àêàäåìè÷åñêèõ èíòåðåñîâ. Ìíîãèå â íàøåé êîìàíäå òàêæå çàíèìàþò ïðîôåññîðñêèå äîëæíîñòè â óíèâåðñèòåòàõ è ??çàíèìàþòñÿ àêàäåìè÷åñêèìè èññëåäîâàíèÿìè îòäåëüíî îò ðàáîòû â DeepMind ÷åðåç ñâîè óíèâåðñèòåòñêèå ñâÿçè», — çàÿâèëè â Google. Îäíàêî â êîìïàíèè ïîääåðæàëè óñèëèÿ èññëåäîâàòåëåé â îáåñïå÷åíèè áåçîïàñíîñòè èñïîëüçîâàíèÿ [https://vk.com/wall-62032126?s=87&q=%D0%98%D0%98-%D0%B0%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC%D0%BE%D0%B2|ÈÈ-àëãîðèòìîâ]. Íàïîìíèì, â ñåíòÿáðå èñòîðèê è ôèëîñîô Ýìèëü Òîððåñ çàÿâèë, ÷òî èñêóññòâåííûé èíòåëëåêò óãðîæàåò ÷åëîâå÷åñòâó ïîëíûì âûìèðàíèåì.  ÿíâàðå Èëîí Ìàñê ïîîáåùàë íå äîïóñòèòü ïîòåíöèàëüíîå âîññòàíèå ìàøèí. Èñòî÷íèê: vk.com Êîììåíòàðèè: |
|