宇宙研究所(Cosmos Institute ) 是一家非营利性机构，其创始研究员包括 Anthropic 联合创始人杰克·克拉克 (Jack Clark) 和前国防部技术专家布伦丹·麦考德 (Brendan McCord)。该研究所已宣布了一项风险投资计划和研究计划，用该组织的话来说，目的是“培养新一代技术专家和企业家，使他们具备深刻的哲学思想，以探索人工智能时代的未知领域。”
Cosmos 主席 McCord在一篇博文中表示，该研究所将在牛津大学建立一个名为“以人为本的人工智能实验室”的人工智能实验室，简称“HAI 实验室”。该实验室将由牛津哲学家 Philipp Koralus（该研究所的另一位创始研究员）领导，旨在“将人类繁荣的哲学原理转化为开源软件和人工智能系统”。
“转化人类繁荣的哲学原则”究竟意味着什么？尚不清楚。但关键是要促进创造尊重人类尊严的人工智能技术，同时避免促进有害的破坏（例如，自动化导致失业）。当然，这是一个很高且模糊的标准——但 HAI 实验室将努力实现这一标准。
该研究所还正在启动一项奖学金计划——Cosmos 奖学金计划，最初将有四名研究员。研究员将在 HAI 实验室或其他合作机构工作“一个学期到一年”，与 Cosmos 导师合作并开展独立项目，以“探索 AI 专业知识与深刻哲学见解的交汇点”，McCord 说道。
该研究所的计划包含投资部分，它将以风险投资机构 Cosmos Ventures 的形式启动。McCord 表示，Cosmos Ventures 由前 DeepMind 产品负责人 Jason Zhao、前 Stripe 企业战略主管 Alex Komoroske、Darren Zhu 和 Zoe Weinberg 领导，将支持“探索技术哲学基本问题的具有挑衅性的新原型、论文和创意项目”。
McCord 将 Cosmos Ventures 描述为“低开销”，模仿了研究所研究员 Tyler Cowen 的Emergent Ventures。每个项目的投资额将在 1,000 美元到 10,000 美元之间，项目（可以是新的也可以是现有的）必须在三个月内产生“主要可交付成果”。
麦考德表示，第一批已经获得资助。
Cosmos 研究所并不是第一个试图推进更道德、更人性化的人工智能愿景的机构。OpenAI 成立的使命是让全人类受益于先进的人工智能，但它已经解散了整个安全团队。克拉克自己的 Anthropic 曾将自己定位为更安全、更道德的供应商，但近几个月来，它一直在推翻人工智能监管规定，并在未经许可的情况下大肆抓取数据。
也许宇宙研究所接受麦考德所说的“加速主义”会更好：这种观点认为，未来不是预先确定的，因此人类要对其所拥有的一切负责。
McCord 写道：“我们必须打造鼓励探究而非自满、提倡积极参与而非被动依赖的人工智能，尤其是在教育、医学、公共广场和其他重要领域。我们倡导分散权力并实现自下而上解决方案的人工智能，让个人和社区共同创造一个更加丰富、更加多样化的社会。”
这是令人钦佩的职位。记者只希望金钱、影响力和权力不会让人难以抗拒地产生放弃这些职位的诱惑。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/cosmos-yan-jiu-suo-qi-dong-zi-zhu-ji-hua-he-ai-shi-yan-shi
