Katyusha's blog

大语言模型的本质：一个概率分布，预测下一个token的概率 $Pr[token|context]$

这门课是使用者视角，无需LLM任何知识

agent的工作流演进：根据错误，沉淀具体方法，形成确定性的脚本

agent的能力是多个生态累加自由组合得到的结果

eg.：大量信息源，通过skill构成的处理系统，形成可用的知识

不确定性：即使一步的成功率为99%，多步全部正确的概率也很小

agent时代科班生的能力：将需求变成工具，应该用ai的不确定性还是可复用的确定性代码脚本，例如分数登记OCR交给ai，求分数和交给程序

核心是好的架构，基础设施

三个空间：

Intention space：不确定的需求，有很多实现路径 eg：“给我赚一个亿”

Specification space：功能明确的需求， eg：“有几个怎样的界面，每个界面有什么功能”

Implementation space：无歧义的指令

软件工程的不确定性就在于这三个空间的gap,而模型补足的方式就是猜