Google处于动荡状态，或者更确切地说是其生成的AI。确实，双子座是关于其虐待恐怖分子内容的令人震惊的报告的主题。这种现象再次提出了围绕AI工具的保护措施的关键问题。
根据Google向澳大利亚当局发送的报告，在过去的十二个月中，该公司记录了250项投诉，涉及其AI的使用，这是出于恐怖目的而产生的内容。这个数字虽然仍然限于一个国家，但表明，恶意人士可以将生成性AI转移来进行深层诉讼，传播宣传或创造极端主义内容。
澳大利亚在线安全委员会做出了迅速的反应，强调了科技公司加强防御的紧迫性：这强调了开发AI产品以整合和测试保护性措施的有效性以防止这种类型的内容产生的公司的重要性
。显然，没有保障措施就无法进行AI的比赛。目前，双子座似乎显示出令人不安的缺陷。
人物内容也生成
更糟糕的是，同一份报告表明发现并报告了86个通过双子座生成的儿童色情内容。Google声称基于禁止内容的全球基础来依靠元数据系统来识别这些图像，但指出恐怖分子内容仍然没有任何内容。
这意味着，目前，与恐怖分子的斗争主要基于手动报告和反应性控制。面对如此强大的技术，这种方法还远远不够。
澳大利亚指出了监管或缺席，并在数字技术监管中脱颖而出。除了严格遵循生成AI的关注之外，该国还批评社交网络缺乏过滤器，无法阻止13岁以下的年轻人进入其平台。而且，禁止中国人工智会深处寻求，被指控不遵守当地法律的个人数据。
目前，Google尚未详细介绍为避免这些漂移而打算加强所采取的措施，但压力上升。尽管生成AI越来越多地集成到我们的日常工具中，但防止创建非法内容的能力成为一个主要问题。双子座事件回忆说，如果没有严格的法规和强大的设备来抵制虐待行为，AI的发展就无法进步。
