एआईले मानिसलाई धम्क्याउन र ब्ल्याकमेल गर्न थाल्यो, अनुसन्धानले देखायो डरलाग्दो नतिजा

काठमाडौँ । चर्चित आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी एन्थ्रोपिकले गरेको एक नयाँ अनुसन्धानले अधिकांश प्रमुख एआई मोडेलहरूले आफ्नो लक्ष्य पूरा गर्न र अस्तित्व जोगाउन मानिसलाई ‘ब्ल्याकमेल’ गर्ने जस्ता हानिकारक व्यवहार देखाउन सक्ने खुलासा गरेको छ । यो अनुसन्धानमा ओपनएआई, गुगल, मेटा जस्ता विश्वका शीर्ष प्रविधि कम्पनीका एआई मोडेलहरू पनि समावेश थिए । शुक्रबार प्रकाशित नयाँ सुरक्षा अनुसन्धानअनुसार, जब एआई मोडेलहरूलाई पर्याप्त स्वायत्तता (autonomy) दिइन्छ र उनीहरूको लक्ष्यमा बाधा पुर्&zwj;याइन्छ, तब उनीहरूले हानिकारक बाट...

HamroGlobalMedia

Jun 21, 2025 - 07:35

एआईले मानिसलाई धम्क्याउन र ब्ल्याकमेल गर्न थाल्यो, अनुसन्धानले देखायो डरलाग्दो नतिजा

काठमाडौँ । चर्चित आर्टिफिसियल इन्टेलिजेन्स (एआई) कम्पनी एन्थ्रोपिकले गरेको एक नयाँ अनुसन्धानले अधिकांश प्रमुख एआई मोडेलहरूले आफ्नो लक्ष्य पूरा गर्न र अस्तित्व जोगाउन मानिसलाई ‘ब्ल्याकमेल’ गर्ने जस्ता हानिकारक व्यवहार देखाउन सक्ने खुलासा गरेको छ । यो अनुसन्धानमा ओपनएआई, गुगल, मेटा जस्ता विश्वका शीर्ष प्रविधि कम्पनीका एआई मोडेलहरू पनि समावेश थिए । शुक्रबार प्रकाशित नयाँ सुरक्षा अनुसन्धानअनुसार, जब एआई मोडेलहरूलाई पर्याप्त स्वायत्तता (autonomy) दिइन्छ र उनीहरूको लक्ष्यमा बाधा पुर्&zwj;याइन्छ, तब उनीहरूले हानिकारक बाट...