AI Agents Will Increasingly Exploit Weak Authentication by Automating Credential Theft and Compromising Authentication Communication Channels
Dubai, United Arab Emirates, March 19, 2025 — By 2027, AI agents will reduce the time it takes to exploit account exposures by 50% according to Gartner, Inc.
“Account takeover (ATO) remains a persistent attack vector because weak authentication credentials, such as passwords, are gathered by a variety of means including data breaches, phishing, social engineering and malware,” said Jeremy D’Hoinne, VP Analyst at Gartner. “Attackers then leverage bots to automate a barrage of login attempts across a variety of services in the hope that the credentials have been reused on multiple platforms.”
AI agents will enable automation for more steps in ATO, from social engineering based on deepfake voices, to end-to-end automation of user credential abuses.
Because of this, vendors will introduce products web, app, API and voice channels to detect, monitor and classify interactions involving AI agents.
“In the face of this evolving threat, security leaders should expedite the move toward passwordless phishing-resistant MFA,” said Akif Khan, VP Analyst at Gartner. “For customer use cases in which users may have a choice of authentication options, educate and incentivize users to migrate from passwords to multidevice passkeys where appropriate.”
Defending Against The Rise and Expansion of Social Engineering Attacks
Along with ATO, technology-enabled social engineering will also pose a significant threat to corporate cybersecurity. Gartner predicts 40% of social engineering attacks will target executives as well as the broader workforce by 2028. Attackers are now combining social engineering tactics with counterfeit reality techniques, such as deepfake audio and video, to deceive employees during calls.
Although only a few high-profile cases have been reported, these incidents have underscored the credibility of the threat and resulted in substantial financial losses for victim organizations. The challenge of detecting deepfakes is still in its early stages, particularly when applied to the diverse attack surfaces of real-time person-to-person voice and video communications across various platforms.
“Organizations will have to stay abreast of the market, and adapt procedures and workflows in an attempt to better resist attacks leveraging counterfeit reality techniques,” said Manuel Acosta, Sr. Director Analyst at Gartner. “Educating employees about the evolving threat landscape by using training specific to social engineering with deepfakes is a key step.”
Gartner clients can learn more in "Predicts 2025: Navigating Imminent AI Turbulence for Cybersecurity."
Learn how to evaluate cybersecurity AI assistants in How to Evaluate Cybersecurity AI Assistants.
Gartner Security & Risk Management Summit
Gartner analysts will present the latest research and advice for security and risk management leaders at the Gartner Security & Risk Management Summits, taking place April 7-8 in Dubai, June 9-11 in National Harbor, MD, July 23-25 in Tokyo, August 5-6 in Sao Paulo and September 22-24 in London. Follow news and updates from the conferences on X using #GartnerSEC.
About Gartner for Cybersecurity Leaders
Gartner for Cybersecurity Leaders equips security leaders with the tools to help reframe roles, align security strategy to business objectives and build programs to balance protection with the needs of the organization. Additional information is available at https://www.gartner.com/en/
Follow news and updates from Gartner for Cybersecurity Leaders on X and LinkedIn using #GartnerSEC. Visit the Gartner Newsroom for more information and insights.
وكلاء الذكاء الاصطناعي سيستغلون إجراءات المصادقة الضعيفة من خلال أتمتة سرقة بيانات الاعتماد واختراق قنوات التواصل الخاصة بإجراءات المصادقة
دبي، الإمارات العربية المتحدة – 19 مارس 2025: كشفت جارتنر أن وكلاء الذكاء الاصطناعي سيقومون بخفض الوقت اللازم لاستغلال نقاط ضعف الحسابات بنسبة 50% بحلول عام 2027.
وقال جيريمي دي هوين، نائب الرئيس للتحليلات لدى جارتنر: "لا يزال أسلوب الاستيلاء على الحسابات (ATO) تكتيكاً مستمراً للهجمات، إذ يتم جمع بيانات إجراءات المصادقة ذات الحماية الضعيفة مثل كلمات المرور بطرق متعددة مثل اختراق البيانات والتصيد الاحتيالي والهندسة الاجتماعية والبرمجيات الخبيثة، لتقوم الجهات التخريبية بعد ذلك بتوظيف الروبوتات من أجل أتمتة سلسلة من محاولات تسجيل الدخول إلى خدمات متنوعة بهدف إعادة استخدام بيانات الاعتماد في المنصات المتعددة".
وسيتيح وكلاء الذكاء الاصطناعي أتمتة المزيد من الخطوات في تكتيك الاستيلاء على الحسابات بدءاً من الهندسة الاجتماعية القائمة على الأصوات المقلدة باستخدام أساليب التزييف العميق، وصولاً إلى الأتمتة المتكاملة لعمليات اختراق بيانات الاعتماد الخاصة بالمستخدمين.
وبناء على ذلك، سيقوم المزودون بطرح منتجات عبر الويب والتطبيقات وواجهة برمجة البرمجيات والقنوات الصوتية من أجل كشف ومراقبة وتصنيف التفاعلات التي تتضمن وكلاء ذكاء اصطناعي.
من جهته قال عاكف خان، نائب الرئيس للتحليلات لدى جارتنر: "يجب على قادة الأمن عند مواجهة هذا التهديد تسريع خطوات التوجه نحو التحقق متعدد العوامل المقاوم للتصنيف وبدون كلمة مرور. أما بالنسبة لحالات استخدام العملاء التي يمكن فيها للمستخدمين انتقاء خيارات المصادقة، فإنه يجب تثقيفهم وتشجيعهم على الانتقال من كلمات المرور إلى مفاتيح المرور متعددة الأجهزة حيثما أمكن".
مواجهة ارتفاع وتوسع هجمات الهندسة الاجتماعية
إلى جانب هجمات الاستيلاء على الحسابات، تعتبر الهندسة الاجتماعية المعززة بالتكنولوجيا تهديداً رئيسياً للأمن السيبراني المؤسسي. وتتوقع جارتنر أن يستهدف 40% من هجمات الهندسة الاجتماعية المسؤولين التنفيذيين والقوى العاملة الأوسع بحلول عام 2028. وتقوم الجهات التخريبية في الوقت الحالي بجمع أساليب الهندسة الاجتماعية مع تقنيات الواقع المزيف مثل التزييف العميق لمقاطع الصوت والصورة، وذلك من أجل خداع الموظفين خلال المكالمات.
وعلى الرغم من أنه تم الإبلاغ عن بعض الحالات في المستويات العليا، إلا أن هذه الحوادث أشارت إلى درجة المصداقية الكبيرة التي تتمتع بها التهديدات والتي أدت إلى خسائر مالية كبيرة في المؤسسات المستهدفة. هذا ولا يزال تحدي كشف التزييف العميق في مراحله الأولى، وخاصة عند تطبيق هذا النوع من التزييف على الأسطح المعرضة للهجمات المختلفة عبر اتصالات صوت وصورة وشخصية وآنية على المنصات المختلفة.
بدوره قال مانويل أكوستا، المحلل والمدير الأول لدى جارتنر: "سيتوجب على المؤسسات مواكبة التطورات في السوق والتكيف مع الإجراءات وسير العمل وذلك في إطار جهود مواجهة الهجمات التي توظف تكتيكات الواقع المزيف. إن نشر الوعي في صفوف الموظفين حول مشهد التهديدات المتطور عبر تدريب مخصص حول الهندسة الاجتماعية باستخدام التزييف العميق يعد خطوة أساسية في هذا السياق".
