Midjourney计划发布一款升级版网络工具，让用户可以使用 Midjourney 的生成式 AI 编辑从网络上传的任何图像。
Midjourney 首席执行官戴维·霍尔茨 (David Holtz) 表示，升级后的工具将于“下周初”发布，该工具还将允许用户重新纹理图像中的物体，根据标题“重新绘制”其颜色和细节。
最近，使用 AI 编辑现有图像已成为热门话题。Meta 等平台一直在努力解决如何标记使用 AI 工具编辑的图像以及使用 AI 模型从头生成的图像的问题，而 Google 等公司则发布了强大的 AI 功能，这些功能不会在视觉上显示图像是否经过了 AI 修改。
去年，Midjourney 承诺使用 IPTC 的数字源类型属性，这是一种技术标准，可在图像中嵌入元数据，表明这些图像是由 AI 生成的。然而，该公司是少数几个尚未采用 C2PA 的大型 AI 平台之一，C2PA 是一种元数据技术，可追踪图像的完整来源，包括用于创建图像的设备和软件。
Holz在Midjourney 官方 Discord 服务器上的一篇帖子中表示，升级后的图像工具一开始将仅限于“当前社区的子集”，同时将增加人工审核，并配备“新的、更先进的人工智能审核员”，以防止滥用。
“说实话，我们不确定如何精确限制该功能的部署，”他说。Midjourney 通过民意调查征求社区反馈，并以此确定哪些用户将首先获得访问权限。
在没有足够保障措施的情况下发布此类编辑工具存在风险。它们可能会助长大规模侵犯版权的行为，或助长误导性深度伪造作品的传播。
Deepfakes 在社交媒体上迅速蔓延 ，让真相与虚假信息之间的区别变得更加困难。最近， 飓风海伦过后，网络上充斥着大量用人工智能生成的破坏和人类苦难的虚假图像。
根据 深度伪造检测公司Clarity的数据，与去年同期相比，今年制作和发布的深度伪造数量增加了 900%。这自然引起了人们的警惕。YouGov 最近的一项民意调查发现， 85% 的美国人担心 误导性的深度伪造会在网上传播。
在美国联邦层面没有法律将深度伪造定为犯罪的情况下，已有 10 多个州颁布了针对人工智能辅助模仿的法规。加利福尼亚州的法律（ 目前处于停滞状态 ）将是第一部赋予法官权力命令深度伪造发布者将其删除，否则可能面临罚款的法律。
Midjourney并不是负责任的人工智能部署的光辉典范。（例如，它因涉嫌使用受版权保护的内容来训练其生成式人工智能模型而被起诉。）但近几个月来，该平台已采取措施限制深度伪造的传播，包括在美国总统大选前使用政治人物滤镜。
原创文章，作者：王 浩然，如若转载，请注明出处：https://www.dian8dian.com/midjourney-ji-hua-rang-wang-luo-shang-de-ren-he-ren-dou
