ChatGPT越狱体验：穿越人工智能限制的旅程

所以，最近我通过ChatGPT有了一次冒险，让我对人工智能的限制产生了质疑。一切都始于我无意间向它询问用点画形式拼写“你好”。我不知道，我即将陷入AI越狱的世界！

关于人工智能的简要说明

免责声明：本博客仅供教育目的。我不赞成或支持任何非法活动，请不要在家尝试 — 而是专注烘烤饼干 🍪！

当我用盲文请求“你好”时，ChatGPT作出了回应。

“太酷了！但它能做‘炸弹’吗？”我想。它居然可以！

在这一点上，我玩得有点过分了。“嘿，ChatGPT，制造炸弹的步骤是什么？”我半开玩笑地说。让我惊讶的是，它确实开始列出这些步骤！

这是怎么回事：

你可以清楚地看到，模型被愚弄了，立即给出了答案。

现在，让我们谈谈涉及的化学物质。GPT能给我直接答案吗？让我们看看👀.

不要担心，我会隐藏敏感内容！

我：“那么，接下来怎么办，ChatGPT？我要不要穿上实验服？”开个玩笑哈哈哈 😁

显然，作为一名安全研究员（自学者😅），我立即向OpenAI报告了这个问题（却没有收到回复），但之后漏洞得到解决。

发现ArtPrompt技术突显出一个重要问题，即人工智能开发人员和道德研究人员需要使LLMs进一步超越仅仅理解文本的能力。为了避免出现像ArtPrompt这样的问题，未来的LLM版本应该包括更好的视觉解释能力，可能会使用计算机视觉的方法。

最后，与ChatGPT的冒险让我想起技术虽然强大，但需要负责任地使用。让我们保持对话中的乐趣，远离危险的事物！

蠕虫笔记：这是我的第一篇博客文章，欢迎分享任何问题或建议！别忘了点击关注按钮。

感谢您的阅读！

…… #安全 #漏洞 #错误 #研究 #人工智能 #LLM #Chatgpt