“神奇小子”乔治·霍茨警告：AI 编程智能体可能是代价最高的错误

核心看点

曾破解 iPhone 和 PlayStation 3 的传奇黑客乔治·霍茨（George Hotz）发布博文警告：AI 编程智能体可能是当代软件开发中”代价最高的错误之一”。经过 6 个月实测，他认为 AI 生成的代码表面越来越像样，但隐藏的问题更难识别，能力较弱的开发者很难看穿这些缺陷。

详细解析

谁是乔治·霍茨？

霍茨于 1989 年出生，人称”神奇小子”（geohot），是世界著名的黑客、安全研究员和创业者。他以早期破解 iPhone 和 PlayStation 3 闻名，是自动驾驶技术公司 Comma.ai 的创始人，在编程和人工智能领域备受关注。

6 个月实测结论

霍茨称自己用 6 个月测试了多种模型和工具，还结合 tinygrad 相关工作，最终结论是：AI 编程工具适合快速原型，却不擅长处理决定代码质量的细节问题。

他指出，AI 模型可以快速产生代码，生成的代码表面越来越像样，但问题却更难识别。能力较弱的开发者很难看穿这些缺陷，最终可能把有问题的代码带入正式系统，累积出高昂维护成本和隐蔽故障风险。

技术观点的转变

在技术判断上，霍茨已从早期乐观转向怀疑。他现在更接近杨立昆（Yann LeCun）和加里·马库斯的观点——大语言模型并不真正具备智能。

他认为这类模型本质上是复杂的统计系统，主要任务是模仿编程分布，而不是真正理解问题。正因如此，它们能模仿代码外形，却未必能稳定完成陌生情境下的推理与修正。

业界观点分歧

与霍茨相反，安德烈·卡帕西（Andrej Karpathy）近来的态度明显转向积极。他曾在 2025 秋天认为智能体系统不可靠，但在 GPT-5.4 和 Opus 4.6 发布后改口，称 AI 智能体已经永久改变编程方式。

简评

霍茨的警告并非反对 AI 辅助编程，而是提醒业界警惕”看起来对”的陷阱。当 AI 生成的代码语法正确、结构合理，但逻辑存在微妙缺陷时，缺乏经验的开发者可能直接将其投入生产环境，埋下难以排查的隐患。

这实际上是一个关于”能力边界”的讨论。AI 编程工具作为辅助手段确实能提升效率，但如果组织过度依赖它、让经验不足的开发者独立使用 AI 生成核心代码，风险将呈指数级增长。霍茨的 6 个月实测经验值得每个技术团队参考——AI 是加速器，不是替代品。