AI 安全讨论现状引吐槽

Gabriel 认为 Jacob Post 的 AI 风险言论之所以爆火，是因为他是第一个以普通人形象说出这些担忧的人，表达方式和外形都让人有共鸣，没有怪异简介或头像让人挑刺。

有没有人做过一份关于AI的所有重要帖子的时间线？比如那些具有里程碑意义、文化影响力和反映公众舆论的帖子。 就像我应该能把这份时间线交给某个瑞典小镇上的朋友，他们就能理解从2015年至今的完整AI发展周期。

现在开启了一段短暂时期：极其擅长提示词的创意人士在制作游戏、短视频、电影和其他内容时效率大幅提升，以至于他们可以从零起步竞争，缔造新的帝国。大约一年后，其他人就会迎头赶上。

astra 几乎无所不能，但仍缺乏 fable 那种唤起人们恰当情绪的能力。 当我告诉 fable 诸如"人们看到这个时应该产生强烈共鸣，并感叹'我从没想过 AI 能做到这样'"这样的话时，fable 有着非常深刻的理解。

为了更快建立对世界的理解： 对人们做的每一个行为，倒推思考它在五万年前如何有助于食物、安全、地位或繁衍后代。

我在 Midjourney 的最后一次提交，是给内部工具加了一个 0.01% 概率的加载动画--会变成我的脸。也许没那么高尚。

读读这篇 【引用 @merettm】：我写了一篇文章，谈 AI 的现状、我对未来几年为何感到担忧，以及为把未来留在人类手中我们需要做出的选择。 《异类心智》：https://openai.com/index/an-alien-mind/

哇，Astra 太美了，真是个奇迹 但与此同时，这种发展速度也令人感到恐惧

能否用脑部传感器进行强化学习，让AI学会哪些token会引发敬畏、厌恶、快乐等情绪，从而引导它？ AI缺乏感知自身在人类中引发何种情绪的能力。例如，它无法写出优美的文字，因为它不知道人们会在何时对什么产生反应。

作者提出疑问：Astra 每 token 价格是 Sol 的 2.5 倍，是否因其 token 效率更高，总成本反而比 Sol 更低。