转译：在软件工程中，对大语言模型（LLM）的过度依赖，会加速工程-20250529121120

正文

请到「今天看啥」查看全文

作者：Doug Slater

2022年底以来，AI和大语言模型（LLM）的浪潮席卷全球。作为一名资深的软件工程师，我想谈谈我观察到的两个令人担忧的观点。

“LLM是我的朋友”

当然，没有人真的会把一个程序当作朋友，但这句话的潜台词是：大语言模型对使用者有巨大帮助。

那些将LLM视为盟友的工程师往往会特别强调速度，或者因为环境压力而被迫追求快速交付。对他们来说，生产速度比深度思考更加重要。的确，LLM能够快速生成大量代码，但同时也带来了巨大的风险。

使用LLM的风险

• 输出风险。LLM可能给出明显错误的代码，比如无法编译；更严重的风险是，它们可能生成看似正确但实际存在逻辑错误的代码，且难以发现。如果使用者没有足够能力评估输出（例如让项目经理来请求代码），风险会进一步加剧。
• 输入风险。LLM不会质疑带有误导性或假设有误的提问。例如，一个工程师问：“请给我提供一个线程安全的C#列表实现”，LLM可能会返回200行完美的代码，但其实正确的问题应该是：“如何让现有的代码线程安全？”，正确的答案只需一行代码（System.Collections.Concurrent）。LLM无法识别这种经典的XY问题。
• 未来开发速度。这就是典型的“技术债务”问题，但更加紧迫。AI可能迅速降低代码质量。想象一下一个囤积狂的家，外表可能看起来正常，但内部肮脏凌乱、功能瘫痪。如果没有有效的管理，由LLM生成的代码库就像这样，表面正常而内部混乱。
• 用户的技能退化。当个人和组织把思考和问题解决完全外包给LLM时，人才的灭绝就会发生：
• 资深工程师失去通过克服困难成长的机会，他们原本的技能逐渐退化：
• 微软研究发现，AI带来的自信往往是以牺牲批判性思维为代价的。

请到「今天看啥」查看全文