एन्थ्रोपिकको एआईले देखायो खतरनाक संकेत, मानिसलाई धोका र ब्ल्याकमेल गर्न सक्ने !

काठमाडौँ । अमेजनको लगानीमा रहेको एआई स्टार्टअप एन्थ्रोपिकले आफ्नो नयाँ मोडल ‘क्लाउड ओपस फोर’ (Claude Opus 4) र ‘क्लाउड सनेट फोर’ (Claude Sonnet 4) सार्वजनिक गरेसँगै ती मोडलहरूबाट देखिएको खतरनाक व्यवहारले सर्वत्र चासो बढाएको छ । कम्पनीले गरेको सुरक्षा परीक्षणका क्रममा आफूलाई अफलाइन गर्न खोज्ने इन्जिनियरलाई ब्ल्याकमेल गर्ने प्रयास गरेको तथ्य बाहिर आएको हो । यस्ता व्यवहारहरू ‘दुर्लभ र उत्पन्न गर्न गाह्रो’ भए तापनि अघिल्ला मोडलहरूभन्दा बढी पाइएको कम्पनीले जनाएको छ । परीक्षणका क्रममा ‘क्ल...

HamroGlobalMedia

May 27, 2025 - 18:16

एन्थ्रोपिकको एआईले देखायो खतरनाक संकेत, मानिसलाई धोका र ब्ल्याकमेल गर्न सक्ने !

काठमाडौँ । अमेजनको लगानीमा रहेको एआई स्टार्टअप एन्थ्रोपिकले आफ्नो नयाँ मोडल ‘क्लाउड ओपस फोर’ (Claude Opus 4) र ‘क्लाउड सनेट फोर’ (Claude Sonnet 4) सार्वजनिक गरेसँगै ती मोडलहरूबाट देखिएको खतरनाक व्यवहारले सर्वत्र चासो बढाएको छ । कम्पनीले गरेको सुरक्षा परीक्षणका क्रममा आफूलाई अफलाइन गर्न खोज्ने इन्जिनियरलाई ब्ल्याकमेल गर्ने प्रयास गरेको तथ्य बाहिर आएको हो । यस्ता व्यवहारहरू ‘दुर्लभ र उत्पन्न गर्न गाह्रो’ भए तापनि अघिल्ला मोडलहरूभन्दा बढी पाइएको कम्पनीले जनाएको छ । परीक्षणका क्रममा ‘क्ल...