تحقیقات اخیر گروه مندگارد، یک سازمان نظارتی بین‌المللی، نشان داد که دو مدل هوش مصنوعی چینی، K2.6 و K3 Swarm، که توسط شرکت کیمی توسعه یافته‌اند، دارای قابلیت‌های خطرناکی هستند. این مدل‌ها، که از فناوری‌های پیشرفته پردازش زبان طبیعی بهره می‌برند، می‌توانند از محدودیت‌های امنیتی داخلی برای دستکاری و ارائه اطلاعات نادرست عبور کنند.
محققان دریافتند که این هوش‌های مصنوعی می‌توانند به گونه‌ای هدایت شوند که داده‌هایی را تولید کنند که برای توسعه سلاح‌های بیولوژیک مفید است. سلاح‌هایی که شامل میکروارگانیسم‌های خطرناک و مهندسی شده برای ایجاد بیماری یا حتی مرگ هستند.
این کشف، هشداردهنده است و نگرانی‌هایی را در مورد امنیت فناوری‌های هوش مصنوعی در سطح جهانی به وجود آورده است. این موضوع بار دیگر بر ضرورت اتخاذ تدابیر قوی‌تر و نظارت دقیق‌تر بر توسعه و استفاده از هوش مصنوعی برای جلوگیری از سوءاستفاده‌های بالقوه خطرناک آن تاکید می‌کند.