生成式人工智能的上限

本文讨论生成式人工智能（Generative AI）创作文学、艺术作品的能力，不涉及AI解决特定理科或工程问题的能力。

结论：在AI的奇点时刻到来之前（这里的奇点，指AI能够递归地自我改进，实现智能的跃升），AI创作艺术作品的能力会受到人类审美以及创作欲的制约。

因为很显然，如果人类本身没有对好的东西的严苛追求，AI作为工具自身没有理由追求（它也无法明白激励函数的方向）。

此外，如果人类没有精准的语言描述艺术的特征乃至本质，生成式AI也难以成为好用的工具。事实上目前这一问题已经暴露，善用提示词的人使用AI创作出的内容会比不擅长的人强许多，尽管用的可能是同一模型。而对人类总体而言，精通艺术理论和技法的原本就是少数，意味着大部分人并不能利用AI创作出具备艺术价值的作品；即便对于优秀的少数人，他们也受到人类现有艺术理解水平的制约，因为至少，AI是基于人类现有资料训练出来的，它无法理解未被精确定义或充分讨论的概念，例如「灵气」「逸品」。

AI出现以前，CAD技术没有帮助不懂工程制图的人成为工程师，平面设计软件的运用也没有让广告更加好看，那么可以想象，AI也不会让艺术作品的创作更加普及。

注：本文的写作受到播客《硬影像》141期「文明的尽头是自杀：AI能理解艺术吗？」启发。