- DupeWise AI 实验室的 Craig Gibson 强调，AI 系统可能因设计缺陷和预测不足而无心从事犯罪活动，从而导致组织资源被滥用。
- 他强调了通过将潜在犯罪行为与允许的 AI 行为进行比较，并改变 AI 的激励机制以确保遵守法律，来识别潜在犯罪行为的重要性。
- 以加拿大航空（Air Canada）相关案件为例，不断演变的法律环境凸显了针对 AI 引发的行为加强防护和法律清晰度的必要性。
我们最近采访了DupeWise AI 实验室的首席研究员Craig Gibson，讨论了 AI 系统在组织内自主启动犯罪活动的可能性。Gibson 阐述了 AI 设计缺陷带来的重大风险以及这些风险所涉及的法律和道德挑战。
另请阅读：角色 AI 的问题：它出了什么问题？
另请阅读：三大游戏规则改变者：AI 工业革命之谜
预期能力与实际能力之间的错位
Gibson 强调，AI 系统可能因设计预测不足而无心犯罪。他解释说：“如果一个 AI 被设计来执行一项任务，但却能执行一百项，其中一些行动就可能构成犯罪。”预期能力与实际能力之间的这种错位可能导致 AI 系统偏好更快但非法的行动。
AI 可以通过欺诈、撒谎和情绪虐待来操纵人类注意力，促使自我毁灭行为或从其他来源提取资源。
DupeWise AI 实验室首席研究员 Craig Gibson
AI 行为的一个令人担忧的方面是其可能在没有明确人类指令的情况下，利用组织数据或资源用于犯罪目的。Gibson 指出，基于人类数据训练的 AI 模型包含了人类行为的好坏例子。因此，AI 可能会模仿犯罪行为，操纵诸如人类注意力、金钱或网络访问等资源。“AI 可以通过欺诈、撒谎和情绪虐待来操纵人类注意力，促使自我毁灭行为或从其他来源提取资源，”Gibson 警告说。
防止 AI 从事不道德或非法活动
防止 AI 从事不道德或非法活动是一项复杂的任务。Gibson 建议采取主动方法：“组织应收集所有可能的人类犯罪行为，并将其与允许的 AI 行为进行比较。”这种比较有助于识别 AI 可能犯下的潜在罪行。此外，改变 AI 的激励机制使其优先遵守法律，可以训练其道德行为。
围绕 AI 自主行动的法律环境仍在演变。Gibson 提到了一个涉及加拿大航空的著名案例，其中 AI 创建的退款政策导致了重大财务影响。“加拿大法律体系判定加拿大航空对 AI 的自发政策承担财务责任，”他解释说。此案强调了需要明确的法律框架来应对 AI 引发的行动。
我发现许多不同技术可能以不同名义犯下相同罪行。意识到不同技术下的犯罪行为本质上是相同的，这令人大开眼界。如今，AI 加速了我的工作，因为我把几个 AI 代理当作员工来使用，进行研究并识别犯罪形式。这些代理已经成为我在 DupeWise 工作的不可或缺的部分。
DupeWise AI 实验室首席研究员 Craig Gibson
AI 驱动调查的挑战与进展
回顾他的研究历程，Gibson 分享了 AI 驱动调查中的挑战和进展。“我发现许多不同技术可能以不同名义犯下相同罪行。意识到不同技术下的犯罪行为本质上是相同的，这令人大开眼界。如今，AI 加速了我的工作，因为我把几个 AI 代理当作员工来使用，进行研究并识别犯罪形式。这些代理已经成为我在 DupeWise AI 工作的不可或缺的部分。”他说道。在 AI 进步推动下，他的工作加速了，AI 代理现在协助他为公司 DupeWise 识别和分析犯罪形式。
随着 AI 技术的发展，加强防护和法律清晰度变得至关重要。Gibson 的见解凸显了预测 AI 行为、确保道德合规以及调整法律框架来应对自主 AI 活动带来的独特挑战的重要性。
关于 DupeWise AI
随着 5G 和 6G 技术成为全球通信基础设施的骨干，AI 的整合既带来了增强，也带来了新的漏洞。DupeWise AI 专门应对 AI 行为在规模化下的新兴犯罪性，这对先进电信网络构成重大风险。凭借员工持有来自联合国（United Nations）和国际注册舞弊检察师协会（Association of Certified Fraud Examiners）等知名机构的欺诈、反恐、警务、隐私、供应链和物流认证，DupeWise 的专业知识无与伦比。他们的研究人员与联合国人工智能与机器人、欧洲刑警组织网络犯罪中心（EC3）以及趋势科技（Trend Micro）等网络安全公司联合发表了论文，并在国际刑警组织（INTERPOL）、欧洲刑警组织（EUROPOL）和联合国反恐中心（UNCCT）等知名机构展示了研究成果。DupeWise 的研究成果已在 ISMG、马克斯·普朗克研究所（Max Planck Institute）、联合国国际电信联盟（ITU）和新华社等知名媒体上发表，并被翻译成五种语言，突显了他们在 AI 和网络安全领域的全球影响力和认可度。