在最近的一次高科技欺诈案中，黑客利用了人工智能的深度伪造技术，成功从一家跨国公司的香港办事处骗走了高达2亿港元。他们通过模仿公司首席财务官和其他高管的身份，在视频会议中指示财务部门的员工向五个不同的香港银行账户进行转账，造成巨大的经济损失。此外，随着AI技术的发展，一批恶意的聊天机器人也开始出现。这些机器人能够创建虚假网站，编写恶意软件，并定制信息进行网络钓鱼攻击，使它们的行为更加隐蔽和难以发现。为了抵御这种威胁，一些公司和研究机构开始开发新工具，如巨型模型测试室（GLTR）和DetectGPT，帮助鉴别和防御使用人工智能进行的欺诈行为，从而用AI的力量对抗AI带来的安全挑战。