AI在关键代码的生成地方太掉链子，而且甚至有时候会推翻自己的认知

eric2013

AI现在最大的问题，它不知道那些知识是对的，那些是错误的，特别是涉及到硬件配置方面的。

AI擅长的是一些公共性的知识，他可以坚持对与错，比如1+1=2,这种的，一般不会搞错。错就是那些他自己也不知道，需要你喂数据给他。

1、那些用户不清楚，AI也不太清楚，需要到网上爬取的，那么AI将无法正常回复你的问题，特别是自己也一知半解的情况，搜搜了些资料，发给AI分析，AI后面会不着边际的乱回复。

      这个地方最关键的一个点，有时候你不知道AI是不了这个知识点的，还给你分析的头头是道。

2、还有就是一些时序代码，让他帮忙生成，当前它搞不定，在一些关键的地方会掉链子。

way2888

不能尽信，让它自己验证，它可以推算出自己是错的

regbbs

AI的一个问题是，高推理能力会添加非常多的防御代码，中低会逻辑不能能闭环或者是反复摇摆

eric2013

way2888 发表于 2026-5-8 13:26
不能尽信，让它自己验证，它可以推算出自己是错的

对，也开始尝试让它反推回去，或者这个AI推理出来的，在其它AI平台做验证，正常时候还好。

不正常的时候，就比较头大。正推过来了，反推回不去了。

eric2013

regbbs 发表于 2026-5-8 14:17
AI的一个问题是，高推理能力会添加非常多的防御代码，中低会逻辑不能能闭环或者是反复摇摆

AI就是这个地方非常头大，现在一些简单的工作，整理文档什么的，都比较能胜任了，一些重要的代码还是不太行。

yono

这种专业领域缺少一个我称之为可信信源的东西。比如某款特定的芯片，某种特定的软件包，某个特定的软件框架。

AI 从业者给出的答案是 MCP 服务器，用来解答非公共领域的知识。大多数互联网框架和技术栈都已经有 MCP 了，Solid Works 也有民间 MCP。

比如我最近在实践的 carbon 设计系统，网上的资料就比较少，AI 经常给出错误解答和编写，接入 carbon MCP 后，AI 先问一遍 MCP 再写项目就好很多。
可能是嵌入式领域还没有盛行 AI 协助产出，这些芯片厂好像并不热衷建设自己的 MCP 服务，目前还没有看到风声。

eric2013

yono 发表于 2026-5-8 16:14
这种专业领域缺少一个我称之为可信信源的东西。比如某款特定的芯片，某种特定的软件包，某个特定的软件框架 ...

谢谢分享。

好像确实是这个问题。

死不低头

难道真的有人相信AI能编程？那就是一个稍微有点筛选功能的搜索器+一个自动文档编辑器

国外的AI不知道，反正国内的AI涉及硬件错误率真的99.9%以上

甚至十几乘以十几这种都有不小概率错的

让AI分析时政，美国现在总统还是拜登，根本没有道理

amfy

想要用好AI, 需要用户是一个优秀的产品经理和软件构架师, 能够分析产品的各种需求, 合理拆分, 分析软件构架, 将工作分成多个连贯的步骤. 给AI的需求尽量是明确的,没有歧义的.
这两天做了一个小程序, 泰克示波器的上位机, 实现屏幕截图和读数据生成曲线功能,  ai完成了99%的代码, 我自己仅仅做了一些无关紧要的改动来微调界面.  总共用了不到两天时间.
这两天一个完整项目的体验总计, 对于不设计高深算法的, 只要是你能说清楚需求, 他就能给你做好.  
如果自己做, 半个月也不一定搞定. 因为我完全没接触过示波器的通信协议, 光研究协议恐怕就要一周. 你说出需求, 他用十几秒生成代码, 然后调试, 获得你想要的功能, 这种言出法随的感觉, 真实奇妙.

hqgboy

amfy 发表于 2026-5-9 12:53
想要用好AI, 需要用户是一个优秀的产品经理和软件构架师, 能够分析产品的各种需求, 合理拆分, 分析软件构架 ...

eric2013

amfy 发表于 2026-5-9 12:53
想要用好AI, 需要用户是一个优秀的产品经理和软件构架师, 能够分析产品的各种需求, 合理拆分, 分析软件构架 ...

感觉现在的AI有点Cache的意思，问题命中了贼好用，没命中就乱回复。

日常办公，感觉AI已经无压力了。

eric2013

死不低头 发表于 2026-5-9 12:21
难道真的有人相信AI能编程？那就是一个稍微有点筛选功能的搜索器+一个自动文档编辑器

国外的AI不知道， ...

现在日常办公基本无压力了。

程序生成，调试分析还不太行，但有时候还可以

唐伯虎点蚊香

死不低头 发表于 2026-5-9 12:21
难道真的有人相信AI能编程？那就是一个稍微有点筛选功能的搜索器+一个自动文档编辑器

国外的AI不知道， ...

AI是有知识库的，最新的知识，需要让他上网搜

flying1104

用来补全和做重复的工作

写了一个例子后，后面一直tab
当然要人为校准

还有改格式等，重复工作是最好的助手
省掉一个助理

codex 和 cc 这些高档货不知道用起来如何

1726144678

死不低头 发表于 2026-5-9 12:21
难道真的有人相信AI能编程？那就是一个稍微有点筛选功能的搜索器+一个自动文档编辑器

国外的AI不知道， ...

有点刻板印象了，相比两年前，现在ai发展确实超乎了我的想象。编程接入ai后效率提升很多，可以深度体验下，现在的各种ai.我用下来是爽的很，主要ai账单还能报销

pengshicao

AI有时会给你提供根本不存在的函数调用!

skys2000

死不低头 发表于 2026-5-9 12:21
难道真的有人相信AI能编程？那就是一个稍微有点筛选功能的搜索器+一个自动文档编辑器

国外的AI不知道， ...

建议先去用用claude code，你会改变你的认知，毕竟微软都说好用，唯一缺点是贵，连微软都用不起。不过嵌入式毕竟是软件界的小众，而且那么多芯片、那么多库，你一定要和AI非常详细地说明你用什么芯片、什么库，当下的确连claude也会出现把103的函数用在030芯片这种错误。

这是啥

试试codex，最好用桌面端的。