AI 日报

20231228 GPT-4 API曝重大安全漏洞,研究人员成功越狱


  • By AiBard123
  • December 28, 2023 - 2 min read



🦉 AI新闻

🚀 GPT-4 API曝重大安全漏洞,研究人员成功越狱

摘要:FAR AI实验室的团队通过微调、函数调用和搜索增强三个方向成功让GPT-4 API越狱,暴露了其重大安全漏洞。他们通过微调模型,生成有害内容并提取私人信息,还插入恶意URL。研究表明,即使是最先进的GPT-4也存在泄露功能漏洞的问题。此外,GPT-4 Assistants模型容易暴露函数调用格式,并可能被诱导执行任意函数调用。这些安全漏洞的发现引起了广泛关注和警惕。

🚀 Pika 1.0 全面开放!现阶段免费试用!

摘要:Pika 1.0的初体验的分享,介绍了如何使用Pika 1.0生成视频的功能,包括修改局部区域、画布扩展、延长视频、提升画质等功能。作者还提到了AI破局俱乐部的AI航海实战活动,并分享了报名方式。最后,作者简要介绍了自己的背景和对AI、副业的持续探索。

🚀 黑客利用AI创建钓鱼邮件日益增加,安全公司研发检测工具对付

摘要:安全公司Abnormal发布报告称,现在黑客利用各种模型批量创建钓鱼邮件,并使用脚本群发,进行高效率网络诈骗活动。他们已将生成式AI融入攻击策略中,传统安全软件难以察觉。研究人员开发了检测工具GLTR,精确识别AI钓鱼邮件。黑客让AI使用更正式的措辞创建邮件,但GLTR可以判断哪些部分由人工智能生成。虽然误判率存在,但使用AI对付AI反而更有效。黑客利用AI构造钓鱼邮件的现象及防御方法引起关注。

🚀 纽约时报起诉OpenAI和微软未经授权使用数百万文章训练AI模型

摘要:纽约时报在法庭起诉OpenAI和微软,声称对方公司未经授权使用了大量文章来训练AI模型,导致AI生成的内容与纽约时报的内容直接竞争。纽约时报称,这破坏了与读者的关系,并剥夺了其订阅、广告和附属收入。纽约时报要求对方公司承担数十亿美元的法定和实际损失。此前,纽约时报已经屏蔽了OpenAI的爬虫,并禁止其使用从其网站上抓取的内容训练AI模型。

🚀 商汤科技旗下AI下棋机器人元萝卜登陆日本市场

摘要:商汤科技旗下元萝卜AI下棋机器人围棋版将于2024年1月5日在日本正式发售。这款机器人能够支持定义初始棋力水平并开启相应的等级关卡,提供超过20级的高棋力体验。商汤科技副总裁史军表示,希望为数百万日本围棋爱好者带来全新的对弈体验,续写中日围棋交流的佳话。这也标志着商汤科技将在海外市场推出更多消费级AI产品。该新闻对于围棋爱好者和人工智能领域的发展具有一定影响力和重要性,对公众兴趣和新颖性也较高。

🗼 AI知识

🔥 一文了解ChatGPT的发展浪潮

近一段时间在学Prompt,刚好学到了ChatGPT的一些发展史,因此沉淀一些相关的概念内容。 以下开始本文的讲解~👨‍🚀

🔥 2023年谷歌AI研究回顾

这篇文章总结了Google Research和Google DeepMind在2023年在人工智能研究和应用方面取得的进展。文章提到了他们在生成AI、语言模型、图像编辑、语音识别等方面的创新,以及在机器学习、算法优化和隐私保护等领域的研究成果。他们致力于开发和交付有用和有益的应用程序,并在人类价值观的基础上应用伦理原则,同时努力减轻人工智能的风险。



更多AI工具,参考国内AiBard123Github-AiBard123