苦涩的教训
The Bitter Lesson · kǔsè de jiàoxùn · 又作:bitter lesson、Bitter Lesson
长期看,靠算力规模的通用方法总会胜过依赖人类领域知识精心设计的方法。
出自强化学习研究者Richard Sutton 2019年的同名短文,指AI研究的历史反复表明,借助更多算力的通用学习和搜索方法,最终会超过研究者手工注入领域知识的方法。AI圈常用它讨论“模型变强后,针对特定领域的定制是否会被淘汰”。Box CEO Aaron Levie借这个说法讨论应用层,认为模型越强,按领域专业化的空间反而越大。
用法示例
- Box CEO Aaron Levie称,应用AI层的“bitter lesson”问题在于模型越来越强之后,怎样把这些智能扩散到企业里。