AT在关键代码的生成地方太掉链子，而且甚至有时候会推翻自己的认知

eric2013

AI现在最大的问题，它不知道那些知识是对的，那些是错误的，特别是涉及到硬件配置方面的。

AI擅长的是一些公共性的知识，他可以坚持对与错，比如1+1=2,这种的，一般不会搞错。错就是那些他自己也不知道，需要你喂数据给他。

1、那些用户不清楚，AI也不太清楚，需要到网上爬取的，那么AI将无法正常回复你的问题，特别是自己也一知半解的情况，搜搜了些资料，发给AI分析，AI后面会不着边际的乱回复。

      这个地方最关键的一个点，有时候你不知道AI是不了这个知识点的，还给你分析的头头是道。

2、还有就是一些时序代码，让他帮忙生成，当前它搞不定，在一些关键的地方会掉链子。

way2888

不能尽信，让它自己验证，它可以推算出自己是错的

regbbs

AI的一个问题是，高推理能力会添加非常多的防御代码，中低会逻辑不能能闭环或者是反复摇摆

eric2013

way2888 发表于 2026-5-8 13:26
不能尽信，让它自己验证，它可以推算出自己是错的

对，也开始尝试让它反推回去，或者这个AI推理出来的，在其它AI平台做验证，正常时候还好。

不正常的时候，就比较头大。正推过来了，反推回不去了。

eric2013

regbbs 发表于 2026-5-8 14:17
AI的一个问题是，高推理能力会添加非常多的防御代码，中低会逻辑不能能闭环或者是反复摇摆

AI就是这个地方非常头大，现在一些简单的工作，整理文档什么的，都比较能胜任了，一些重要的代码还是不太行。

yono

这种专业领域缺少一个我称之为可信信源的东西。比如某款特定的芯片，某种特定的软件包，某个特定的软件框架。

AI 从业者给出的答案是 MCP 服务器，用来解答非公共领域的知识。大多数互联网框架和技术栈都已经有 MCP 了，Solid Works 也有民间 MCP。

比如我最近在实践的 carbon 设计系统，网上的资料就比较少，AI 经常给出错误解答和编写，接入 carbon MCP 后，AI 先问一遍 MCP 再写项目就好很多。
可能是嵌入式领域还没有盛行 AI 协助产出，这些芯片厂好像并不热衷建设自己的 MCP 服务，目前还没有看到风声。

eric2013

yono 发表于 2026-5-8 16:14
这种专业领域缺少一个我称之为可信信源的东西。比如某款特定的芯片，某种特定的软件包，某个特定的软件框架 ...

谢谢分享。

好像确实是这个问题。