嗨，朋友们，欢迎阅读TechCrunch的首期人工智能通讯。能够输入这些字真是一种激动人心的体验——这个通讯已经准备很久了，我们终于可以和你分享了。
随着TC人工智能通讯的推出，我们将结束之前的定期专栏《本周人工智能》，原名Perceptron。但你会在这里找到我们为《本周人工智能》带来的所有分析内容以及更多，包括对值得关注的新人工智能模型的重点介绍。
本周人工智能领域又出现了麻烦，OpenAI再次遭遇困境。
一群前OpenAI员工在接受《纽约时报》的Kevin Roose采访时谈到了他们认为组织内存在的严重安全失败问题。他们和其他最近离开OpenAI的人一样，声称公司没有采取足够的措施来防止其人工智能系统可能变得危险，并指责OpenAI采取强硬手段试图阻止员工提出警告。
这群人在周二发表了一封公开信，呼吁包括OpenAI在内的领先人工智能公司建立更大的透明度，并为告发者提供更多保护。“只要这些公司没有受到有效的政府监督，现任和前任员工是少数可以让他们向公众负责的人士之一，”信中写道。
可以说我比较悲观，我预计前员工的呼吁将会被置之不理。很难想象人工智能公司不仅会同意“支持开放批评的文化”，正如签署信件的人建议的那样，而且还不会执行禁止贬低条款或对选择发声的现任员工采取报复手段。
考虑到OpenAI最近为了对其安全实践的初步批评而创建的安全委员会中全部是公司内部人士（包括CEO Sam Altman）。而且考虑到Altman曾声称对OpenAI的限制性禁止贬低协议毫不知情，却亲自签署了建立这些协议的文件。
当然，OpenAI的情况可能明天就会好转，但我不抱太大希望。即使它真的改变了，也很难相信它。
新闻
人工智能启示录：OpenAI的人工智能聊天机器人平台ChatGPT——以及Anthropic的Claude和谷歌的Gemini和Perplexity——今天早晨几乎同时遭遇了故障。所有服务现在已经恢复，但造成它们停机的原因尚不清楚。
OpenAI探索融合技术：据《华尔街日报》报道，OpenAI正在与融合初创公司Helion Energy进行谈判，根据谈判，这家人工智能公司将从Helion购买大量电力以为其数据中心提供电力。据悉，Altman在Helion拥有3.75亿美元的股权，并担任公司董事会成员，但据报道，他已经退出了这笔交易的谈判。
训练数据的成本：TechCrunch对在人工智能行业中变得普遍的昂贵数据许可协议进行了调查，这些协议威胁让人工智能研究对于小型组织和学术机构变得难以承受。
充满仇恨的音乐生成器：恶意行为者正在滥用人工智能音乐生成器制作同性恋、种族主义和宣传性歌曲，并发布指南告诉其他人如何做。
为Cohere筹集资金: 路透社报道，以企业为重点的生成式人工智能初创公司Cohere已经从英伟达、Salesforce Ventures、思科等公司筹集了4.5亿美元的新一轮融资，使Cohere的估值达到50亿美元。知情人士告诉TechCrunch，甲骨文和Thomvest Ventures——两家回报投资者——也参与了这一轮融资，该融资尚未完结。
本周研究论文
在OpenAI最近在其官方博客中强调的一篇名为“逐步验证”的2023年研究论文中，OpenAI的科学家声称他们已经微调了该初创公司的通用生成式人工智能模型GPT-4，以在解决数学问题方面取得比预期更好的表现。论文的合著者称，这种方法可以导致生成模型不那么容易走上错误的道路，但他们指出了几个注意事项。
在论文中，合著者详细介绍了他们如何训练奖励模型来检测虚幻或GPT-4在解数学问题时答案错误的情况（奖励模型是专门用来评估人工智能模型输出的模型，本例中是与数学相关的GPT-4的输出）。研究人员称，过程监督“奖励”了GPT-4每次在数学问题中获得正确步骤的情况，这种方法被研究人员称为“过程监督”。
研究人员称，与以往“奖励”模型的技术相比，“过程监督”提高了GPT-4在数学问题上的准确性——至少在他们的基准测试中是这样。然而，他们承认这并不完美；GPT-4仍然会在解题过程中出错。而且目前还不清楚研究人员探索的过程监督形式如何在数学领域之外推广。
本周模型
天气预报可能并不像一门科学（至少当你像我一样被淋湿时），但这一切都是关于概率，而不是确定性。那么如何计算概率比用概率模型更好呢？我们已经看到人工智能在时间尺度从几小时到几个世纪的天气预测上发挥作用，现在微软也加入了这一行列。该公司的新Aurora模型在这个快速发展的人工智能领域向前迈进， 提供全球级别的0.1°分辨率预测（大约相当于10公里的平方）。
Aurora模型在超过一百万小时的天气和气候模拟数据（不是真实天气？嗯……）进行训练，并在多种理想任务上进行精细调整，Aurora的表现超过传统数值预测系统几个数量级。更令人印象深刻的是，它在一到五天的天气条件预测上击败了谷歌DeepMind的GraphCast（尽管微软选择了这个领域），提供更准确的天气状况猜测。
像谷歌和微软这样的公司都在这场竞赛中投入力量，努力通过提供最个性化的网络和搜索体验来争取你的在线关注。准确、高效的第一方天气预报将是其中一个重要部分，至少在我们不再出门前是这样。
其他
在Palladium上的一个思考文章中，AI初创公司Anthropic的首席幕僚Avital Balwit提出，由于生成式人工智能的快速进步，未来三年可能是她和许多知识工作者最后一次工作的机会。她说，这应该让人感到安心，而不是担心，因为它可能“[导致] 一个人们的物质需求得到满足但也无须工作的世界。”
“一位著名的人工智能研究员曾告诉我，他正在通过尝试一些他不擅长的活动来为[这个转折点]做准备：柔术，冲浪等活动，并且品味着完成而非卓越，” Balwit写道。“这是我们如何为我们未来的做准备，那时我们将不得不从喜悦而非需求来做事，那时我们将不再是最擅长的，但仍然必须选择如何度过我们的一天。”
这显然是乐观的观点，但我不太认同。
如果在三年内生成式人工智能取代了大部分知识工作者（在我看来这似乎不切实际，因为人工智能存在许多未解决的技术问题），经济崩溃很可能会随之而来。知识工作者占据了劳动力市场中的大部分，并且往往是高收入者，因此他们也是大量消费者。他们推动着资本主义的车轮向前。
Balwit提到了普遍基本收入和其他大规模社会保障计划。但我不太相信像美国这样连基本的联邦级人工智能立法都无法处理的国家会在短时间内采取普遍基本收入计划。
倘若幸运的话，我希望自己是错误的。
