对 OpenAI 和 Anthropic 说不

我最近读了内奥米·克莱因（Naomi Klein）和阿斯特拉·泰勒（Astra Taylor）撰写的《法西斯主义末日与为生存世界而战》。这是一本很棒的书，我强烈推荐大家阅读。科技寡头是末法西斯联盟的重要组成部分。作为一名发现大语言模型极其强大的软件和安全工程师，对我来说最突出的一件事是，美国前沿实验室是由精神错乱的疯子经营的，他们真诚地相信他们正在创造机器之神，他们可以烧毁世界来实现通用人工智能，并且他们怀着宗教般的热情相信他们是唯一足够聪明能够安全控制它的人。我已经知道了这一点，但这本书确实让我明白了这一点。尽管我们周围的人工智能炒作都假装 OpenAI 和 Anthropic 是独一无二的，但事实并非如此。他们并不是唯一从事这项工作的公司。事实上，许多开放权重模型与最新的 ChatGPT 和 Claude 模型几乎一样好，包括漏洞研究等极其复杂的任务。你可以使用像 Tinfoil 这样依赖于安全飞地的提供商来私下运行它们（我将在下面更详细地讨论这一点）如果隐私不是一个大问题，你可以使用任意数量的其他提供商，其中一些相当便宜，而且很容易切换，这样你就不会被锁定在一个邪恶的供应商你仍然可以使用强大的大语言模型，而无需在经济上支持疯狂的寡头，他们用地球上的生命进行赌博，这样他们就可以永远保持权力这些公司只提供封闭的服务他们强大模型的版本（尽管“OpenAI”中使用“开放”一词）。您向他们支付聊天和/或 API 访问权限，他们就可以查看您所做的一切。他们提供了一个复选框，以便您可以选择不使用您的数据进行训练，但您的聊天会话仍然不是私密的。他们可以访问这一切。他们可以查看它，与政府或公司分享，或者做任何他们想做的事。如果您选择退出，他们甚至可能不会将其用于培训，至少现在不会。但你真的相信长期的吗？他们是否做了任何事情让人们相信他们尊重人们的数据？他们的模型有严格的护栏，任何试图将它们用于任何与网络安全相关的事情的人无疑都会注意到。