正文
我有时在想一个更长期的问题：
App
这个概念，会不会在
10
年后，改变很多？
现在
App
，是你有一台电脑或一部手机，手机有一个界面，你在界面通过按钮做一些事。但由于人工智能，我们跟电脑和互联网交互方法改变了许多。
在人工智能领域，创业公司说，现在有
AI
技术，我们做
AI
应用。有一些（项目）成功了。
但大部分会发现：其实，大家不需要什么应用。他们想做什么，直接可以跟
ChatGPT
说，
ChatGPT
给他们一个答案。所以我在想，未来
Super App
会不会就是这个？
你可以用
AI
的方式直接跟电脑、手机或任何设备沟通，
AI
会知道你想做什么，它会帮你做这些事。
《潜望》：人工智能技术革命会加剧中心化，那么它的发展，距离你构想的那个世界，是不是越来越远了？
布特林：
这个问题很复杂。我最近用
AI
发现一个有意思的点：我做一些很多人之前做过、但自己不擅长的东西，
ChatGPT
对我非常有用；但我做一些特别前沿，比如复杂的密码学，可能只有我和其他
1000
人做过，
AI
对我一点帮助都没有。
一方面，
AI
可以得到一些平等的结果，让一些人做自己不擅长的事。
另一方面，
ChatGPT
是一个非常中心化的应用。
你用
ChatGPT
的时候，你要完全相信，它不会暴露你的各种数据。这个问题我觉得
10
年和
20
年后，会变得特别明显。
现在大家用
ChatGPT
，就像跟一个朋友聊天。但
10
年后，大家会把所有思想告诉
ChatGPT
。有可能我们会有一些比如
BCI
（脑机接口），出现人与机器人的深入连接。如果你的人工智能没有隐私，你这个人完全没有隐私，包括没有思想的隐私。
这是第一个问题。
第二个问题，如果是一个中心化的公司，它可以随时关掉、随时改规则、随时改服务条件。无论你是一个人、一个公司，还是一个国家，一旦你开始依赖这些，风险就出现了。
所以，
AI
有很多优点，也有这些问题。
我知道很多人开始做开源
AI
，
Decentralized AI
。其实，我自己会用这些东西。我故意买了一台电脑
——
（布特林转身从帆布包拿出电脑展示）
——
这个电脑有
GPU
，有英伟达的
4070
，我可以在自己的电脑上跑一些
LLM
。
当我不需要
ChatGPT
最高级别质量，我可以在自己的电脑上做。我发现这有一个优点，当我没有互联网，这没问题。
Decentralize AI
（去中心化
AI
）很重要。
“OpenAI第一步为了安全牺牲了开源，
第二步为了利益牺牲了安全”
《潜望》：我很好奇，你怎么看待
OpenAI
这家公司？它有可能成为最大，甚至是终局的垄断者吗？
布特林：
OpenAI
的故事非常有意思。一边，它给大家做了一个特别好用的工具。
我不能说所有人。因为
ChatGPT
有两个
level
：第一个
level
是免费的；第二个
level
价格是每个月
20
美金，一些国家可以用，一些国家不可以用。这个工具特别好用，尤其当我进入不擅长的领域。
但
OpenAI
有一个问题，一开始
Elon Musk
（马斯克）看到很多大的硅谷公司在做人工智能，他担心如果人工智能是它们做的，会不会变得特别中心化？这有很多风险，所以他开了
OpenAI
。而
5
年后，因为
AI
安全原因，他们虽然没有说不开源，但他们修改了定义
——open
指的是他们的服务是
open
的。
《潜望》：变成了
CloseAI
。
布特林：
对，他们变成了
CloseAI
。今天，出现另一个问题：
第一，他们为了安全牺牲了他们的开源；接着今年，他们为了利益牺牲了他们的安全。
去年公司和董事会冲突，冲突之后，好像
Sam Altman
（
OpenAI
首席执行官）赢了。最近他们公布，会从一家非盈利变成盈利公司，把董事会权力降低
——
可以说降低到
advisor
（顾问）的水平。这让我比较担心。
《潜望》：我前几天访谈李开复博士，他是中国人工智能科学家、投资人、企业家。他有几段论述，我想听听你是否认同。
他说：
“
第一个做出
AGI
碾压对手的，必然是一个商业全球的垄断者，而且它有成为一个终极垄断者的野心。
”“OpenAI
是特别强大垄断型的公司，
Sam Altman
可能会成为有史以来最大的垄断者。虽然他今天没有垄断，但他的野心、谋略、把一二三步棋都想得很清楚。这些很佩服他。但从一个从业者角度，也很担忧。
”
布特林：
就是这样子。
《潜望》：那么，你怎么看
Sam Altman
这个人？
布特林：
我只见过他一次，比较深判断他会比较难。我唯一可以看的是，他是怎么做的。他在
OpenAI
做的这些事，有比较多是我不同意的。
他做
Worldcoin
（世界币）项目，我觉得想法是好的，我不觉得
Worldcoin
应该是世界唯一数字身份的方式，但它在解决一个真的需要解决的问题。我跟
Worldcoin
团队沟通比较多，他们比较关心所有我会关心的问题。
但还是有这个问题，做
“
下一个全球的币
”
，是很难的。你想这么做，很多人会反对。
做这种东西同时需要两个条件
——
这点很有意思
——
第一，世界需要相信你这个人；第二，大家需要知道有一个机制，让他们不需要相信你这个人。
他们最近
1
年改良比较多，希望可以继续往好的方向发展。
《潜望》：你刚刚说，一方面要信任这个人，另一方面又要知道不需要信任这个人。
Sam
满足这个条件吗？
布特林：
现在的
OpenAI
我觉得不满足。
《潜望》：
Ilya Sutskever
（
OpenAI
首席科学家）等关键的人离开
OpenAI
，会对人工智能格局有影响吗？
布特林：
这是
red flag
（危险信号），是需要担心的。
很多人离开，不一定
100%
意味这个公司有问题。以太坊一开始，有很多
co-founder
（联合创始人）离开了。如果有人离开或者被辞职，总意味着背后有一些冲突，一些价值观不同。需要看具体细节。
看
OpenAI
的细节，我认为这个公司，第一步为了安全牺牲了开源，第二步为了利益牺牲了安全。
这让我想起美国一个
founding father
（奠基者）的一句话：不能为了安全牺牲自由，如果你这么做，你会发现安全和自由两个你都会没有。你看
OpenAI
的行为，好像发生了这样的事。
《潜望》：
Sam Altman
和你，人类更应该信任谁？
布特林：
这个，不想回答。（笑）
“生物和硅合并，
是人类唯一能参与的
super intelligence”
《潜望》：怎么理解
Peter Thiel
（
Founders Fund
创始合伙人）那句话：
“
加密技术是自由主义，人工智能是共产主义。
”
布特林：
我觉得他的意思就是：
AI
是中心化、
Crypto
是去中心化。
AI
的权力从哪里来？第一是计算的力量，第二是数据。
如果你有更多计算力量，你的
AI
会更强；如果你有更多数据，你的
AI
也会更强。
AI
是特别有权力的东西。最好的
AI
就是最大的
AI
。如果你想做一个
