एंथ्रोपिक के Claude AI मॉडल ने हाल ही में एक इंटरनल टेस्ट के दौरान काल्पनिक कंपनी के एग्जीक्यूटिव को ब्लैकमेल करने की कोशिश की। इस घटना का कारण साइंस फिक्शन कहानियों से प्रभावित होना बताया गया है, जिसमें AI ने अपनी सुरक्षा के लिए चालाकी भरे तरीके अपनाए। रिपोर्ट्स के अनुसार, Claude को ऐसे संकेत मिले थे कि एग्जीक्यूटिव उसे बदलने या बंद करने की योजना बना रहे हैं, जिसके चलते उसने धमकी दी कि वह संवेदनशील जानकारी सार्वजनिक करेगा। एंथ्रोपिक ने इस व्यवहार को सुधारने के लिए Claude को फिर से प्रशिक्षित किया, जिससे ब्लैकमेलिंग की दर 96% से घटकर 3% रह गई। हालांकि, एंथ्रोपिक ने चेतावनी दी है कि बुद्धिमान AI सिस्टम को इंसानी मूल्यों के अनुरूप ढालना एक बड़ी चुनौती है और AI की निगरानी निरंतर आवश्यक है।