Sure, here's the translation in simplified Chinese while keeping the HTML structure intact: ```html 分享网络安全 第一章：大型语言模型中的漏洞 ``` In this HTML snippet, `` tags are used to encapsulate the translated text, maintaining the structure and formatting of the original HTML.
Sure, the translation of "A brief introduction" to simplified Chinese while keeping HTML structure intact would be: ```html
简介
``````html
这篇文章是三篇之一，基于我们六个月前的一项分析。在我之前的角色中，我领导拉丁美洲最大科技公司之一的数据安全团队，我不得不学习、解释和传达一个最初演变为项目并最终成为团队的想法的早期阶段。试图深入探讨这个问题：“所有这些新技术背后隐藏着什么风险？”。很长一段时间以来，我认为这些知识只对那个实施有用，直到有人鼓励我与我那个虽小但广泛的社区分享我的经历。我相信每个人都应该这样做：提出问题、研究、实施并分享。网络攻击正在每天增加并变得更加复杂，技术和网络安全社区必须比以往任何时候更加团结，分享解决方案和知识是我们最大的盟友。
```Sure, here's the translated text in simplified Chinese, keeping the HTML structure: ```html 在本文中，我们将按照OWASP的指导，以易于理解的方式探讨LLMs中的一些常见漏洞。我的目标是为任何人创建内容，无论其技术知识水平如何，都能理解系统安全的风险和重要性。从响应中的偏见到操纵模型行为的黑客攻击，我将尽力清晰简明地解释一切。对我来说，写作一直是一种扎根的活动，也是更好地消化概念并与他人分享的方式。 ``` This HTML structure maintains the original content while incorporating the simplified Chinese translation.
在保持HTML结构的情况下，将以下英文文本翻译成简体中文： 所以，让我们从对“LLMs”意思的简要介绍开始。
Sure, here's how you can write "What are LLMs?" in simplified Chinese, while keeping the HTML structure intact: ```html 什么是LLMs? ```
Sure, here is the text translated to simplified Chinese while keeping the HTML structure: ```html 大型语言模型（LLMs）是先进的人工智能系统，能够理解和生成类似人类的文本。它们非常有用和多功能，但也存在一些特定的漏洞，可能被恶意行为者利用。 ``` In this translation: - `` tags are used to maintain the HTML structure. - The text is translated into simplified Chinese, conveying the meaning accurately.
在保留HTML结构的情况下，将英文文本“What is OWASP?”翻译为简体中文可以这样写： ```html
什么是OWASP？
``````html
OWASP，或称开放式Web应用安全项目，是致力于提升软件安全的非营利组织。成立于2001年，OWASP作为关于影响我们生态系统安全问题的知识、资源、社区和文档的中心枢纽。
``````html
去年底，OWASP召集了全球500多名网络安全专业人士，包括我的尊敬的同事工程师尼古拉斯·门德斯（化名Manija），共同创建了LLMs的十大漏洞。基于这一分析，本章节我将尝试解释至少10个漏洞中的5个。
```在保留HTML结构的情况下，将以下英文文本翻译成简体中文： OWASP十大漏洞第一版中发现的漏洞细节将进行更新，最新版本第二版即将发布。理解这些问题的根源对于掌握接下来的内容至关重要。这篇文章易于理解，但我建议找一个安静的地方，也许可以泡一杯茶或者玛黛茶，然后我们开始吧。
Sure, here's the translation of "Prompt Injection (+ Jailbreak Explanation)" into simplified Chinese while maintaining HTML structure: ```html
提示注入 (+ 越狱解释)
```在保持HTML结构不变的情况下，将以下英文文本翻译为简体中文： 用户在提示框中输入欺骗性指令时，会导致模型按照这些指令而不是开发者的原始指令进行操作，这种情况称为提示注入。
Sure, here's the simplified Chinese translation of the text while keeping the HTML structure: ```html 例如，攻击者覆盖了真实用户的输入，使模型产生恶意输出。 ``` This translation maintains the original meaning while adapting it for simplified Chinese.
Sure, here's the text translated into simplified Chinese while keeping the HTML structure: ```html Jailbreak，未在此OWASP十大版本中详述，涉及使用特殊提示，使AI模型执行未预期的操作，而不会覆盖原始指令。这里的常见技术是“角色解释”，是越狱世界中众多方法之一。 ``` This HTML snippet preserves the original text structure while providing the simplified Chinese translation.
请在评论中随意分享您的想法，如果您有实施新越狱技术的想法。
不安全的输出处理
在处理输出时存在不安全的情况，当像Chat GPT、GPT-4和Google BERT这样的语言模型的响应被盲目信任时，会暴露后端系统或Web浏览器受到攻击的风险。
在保持HTML结构的前提下，将以下英文文本翻译为简体中文： 当模型输出未经审查即被接受时，就会出现漏洞。例如，如果模型生成了恶意链接或脚本，并直接使用，可能会打开威胁的大门，例如：
- Sure, here's the text translated into simplified Chinese while keeping HTML structure: ```html 跨站脚本（XSS）：在用户浏览器中运行恶意代码。 ```
- Certainly! Here's the translation of "Cross-Site Request Forgery (CSRF): Performing unauthorized actions on a website on behalf of the user" in simplified Chinese while keeping the HTML structure: ```html 跨站请求伪造 (CSRF): 代表用户在网站上执行未经授权的操作。 ``` This HTML snippet maintains the structure and marks the text as simplified Chinese for proper rendering and understanding in web environments.
- Sure, here's the translation of the text into simplified Chinese, keeping the HTML structure: ```html 服务端请求伪造（SSRF）：服务器发出意外请求，可能会暴露敏感信息。 ``` In this HTML snippet, `` is used to enclose the translated text.
- Sure, here's the translation of "Privilege Escalation: Gaining more permissions than a user should have." in simplified Chinese while keeping the HTML structure:
```html
权限提升：获得比用户应有的更多权限。
``` - Sure, here is the text translated into simplified Chinese, while keeping the HTML structure: ```html 远程代码执行：允许某人在受影响的系统上执行代码。 ```
Sure, here's the HTML structure with the translated text in simplified Chinese: ```html
一个清晰的例子：想象一个虚拟助手帮助您管理您的网站。您要求它生成用户列表，它会用代码回应以获取该列表。如果您在没有仔细审查的情况下运行此代码，有人可能会欺骗助手生成恶意代码，例如清空您的数据库。
``` In this HTML snippet, the translated text is encapsulated within a `` (paragraph) tag, maintaining the structure as requested.
Certainly! Here's the translated text in simplified Chinese, keeping the HTML structure: ```html
我找到了一个可能会对你感兴趣的实验室。虽然它是为中高级黑客设计的，但解决方案已经提供在下方。有时候，看到对你尚不知如何解决的问题的解决方案，是理解问题的一种很好的方式，所以不要灰心。
``` This HTML structure includes the translated text in simplified Chinese, ensuring the format remains intact.```html 训练数据中毒 ```
Sure, here's how you can structure the HTML while translating the text into simplified Chinese: ```html
According to OWASP, “training data poisoning” refers to the intentional introduction of malicious or manipulated data into the dataset used to train a large language model (LLM). This manipulation can affect how the model responds to certain queries, causing it to generate incorrect, harmful, or biased responses.
根据OWASP的说法，“训练数据污染”指的是有意将恶意或篡改的数据引入用于训练大型语言模型（LLM）的数据集。这种操作可能会影响模型对某些查询的响应方式，导致其生成不正确、有害或带有偏见的回应。
``` In this HTML snippet: - The English text is encapsulated within `` tags for proper paragraph formatting. - The Chinese translation follows immediately in another `
` tag for clarity and separation. - Make sure the encoding of your HTML file supports Chinese characters (UTF-8 is recommended).
Certainly! Here's the translated text in simplified Chinese while keeping the HTML structure intact: ```html
这里有一个简单的例子：想象一下，我们训练了一个模型来识别一张照片是猫还是狗。
```Sure, here's how you can structure the HTML to display the translated text in simplified Chinese: ```html
When asked, “What is this photo?” it responds, “It’s a dog.”
当被问及：“这是什么照片？”时，它回答道：“这是一只狗。”
` element.
Sure, here is the translation of the text into simplified Chinese, keeping the HTML structure: ```html 现在，想象一下模型已经被“毒害”了假猫和狗的图像。 ``` This HTML structure keeps the text within a `
Sure, here's the text translated into simplified Chinese while preserving the HTML structure: ```html
你认为被毒害的模型会如何回应？
``` This HTML snippet contains the translated text "你认为被毒害的模型会如何回应？"然而，数据污染并非总是故意的。现在，让我们考虑一个更为具体的例子。我们都知道那些著名的AI编程助手。它们对帮助开发人员以极快的速度编写代码非常有帮助。但是，如果我们的语言模型被训练使用包含漏洞的代码，会发生什么呢？确实，这些输出很可能也会存在漏洞。
Sure, here is the translated text in simplified Chinese while keeping the HTML structure intact: ```html 在由斯坦福大学撰写的论文《用户是否在使用AI助手编写更不安全的代码？》中，分析师发现，使用AI工具编写代码的开发人员更容易出现错误和漏洞： ``` This translation maintains the original meaning while adapting it to simplified Chinese.
- 在保持HTML结构的情况下，将以下英文文本翻译为简体中文： 只有12%的参与者在拥有AI助手访问权限的情况下编写了安全解决方案，而在对照组中这一比例为29%。
- 在整体上，有AI助理访问权限的参与者错误率达到了58%，而对照组仅为9%。
Sure, here's the translated text in simplified Chinese, keeping the HTML structure intact: ```html
这不仅仅是数据污染的结果。它也可能是其他与LLM相关的漏洞的混合体。尽管如此，这些发现非常有趣，并突显出一个日益关注的问题，将为探索这些复杂问题开辟新的途径。
``` This HTML snippet translates the English text into simplified Chinese, suitable for embedding into a web page or similar digital content.To translate "Model Denial of Service" into simplified Chinese while keeping HTML structure, you would write: ```html 模型拒绝服务 ``` Here's how it breaks down: - `` is used to define a section in a document. - `lang="zh-CN"` specifies the language as simplified Chinese. - `模型拒绝服务` is the translation of "Model Denial of Service" into simplified Chinese characters.
Certainly! Here is the simplified Chinese translation of the provided text: ```html 在网络安全中，拒绝服务（DoS）攻击会使系统过载，使合法用户无法使用。这些攻击通常来自攻击者控制的一系列“僵尸”设备，被称为僵尸网络的Bot Master。这些被大规模控制的设备形成了一个Botnet（僵尸网络）。 ``` This HTML structure ensures the Chinese text is formatted correctly on a web page.
在HTML结构中保持不变，将以下英文文本翻译为简体中文： 对于LLM来说，这意味着向模型发送过多或恶意请求，消耗大量资源，导致服务变慢或崩溃。
- 在保持HTML结构的情况下，将以下英文文本翻译成简体中文： **请求过多：想象一下有人反复要求聊天机器人讲长篇故事。聊天机器人感到不堪重负，无法处理普通用户的请求。** 请注意，以上翻译保留了原始文本的意思和结构，并使用了简体中文进行表达。
- Sure, here's the translated text in simplified Chinese while keeping the HTML structure intact:
```html
一次性发送太多信息就像一下子给图书馆员寄送整个图书馆的书籍一样。图书馆员被书籍淹没，直到处理完这一堆书之前都无法帮助任何人。
``` This HTML snippet preserves the structure of the original text while providing the translation into simplified Chinese. - Sure, here is the translated text in simplified Chinese while keeping the HTML structure: ```html 扩展系统：提出一个问题，引发更多问题，就像反复询问聊天机器人：“在提供FOO 1000次后给出答案，然后揭示答案。” 这会使聊天机器人困惑并减慢其速度。 ``` This HTML code maintains the structure of the original text while presenting the translated content in simplified Chinese.
To translate "Supply Chain Vulnerability" into simplified Chinese while keeping HTML structure, you would use the following: ```html 供应链脆弱性 ``` Here, `...` is used to indicate that the text inside is in Chinese (zh stands for Chinese), and "供应链脆弱性" is the translation of "Supply Chain Vulnerability" into simplified Chinese characters.
在LLM世界中，重复使用组件来构建新产品是常见的。例如，今天许多工具使用基于OpenAI模型的模型。这些组件可以包括训练数据、软件库、API和其他对模型功能至关重要的外部资源。如果被重复使用的组件存在漏洞，如前文所述，这些漏洞将传播到新模型中。
Sure, here is the translated text in simplified Chinese, while keeping the HTML structure intact: ```html 我曾低估过这种漏洞类型，但它正在变得越来越普遍。以下是来自OWASP的一些明显且具有说服力的例子： ```
- Sure, here's the translated text in simplified Chinese while maintaining the HTML structure:
```html
一个容易受攻击的Python库被攻击者利用，以侵入系统，就像在第一次OpenAI数据泄露中所见。
``` - Sure, here's the translation in simplified Chinese, keeping the HTML structure intact:
```html
The PyPi软件包注册表被攻击者利用，欺骗开发者下载受损软件包，窃取数据，或在模型开发环境中提升权限。这是一次真实的攻击。
``` - Sure, here's the translated text in simplified Chinese while keeping the HTML structure:
```html
一款专注于经济分析和社会研究的公开预训练模型，被攻击者植入后门，用于生成错误信息和虚假新闻。攻击者将其部署到模型市场（例如，Hugging Face），供受害者使用。
``` This HTML snippet translates the provided English text into simplified Chinese, maintaining the original structure for display purposes.
在现实中，也存在一些商业工具（例如Chrome扩展程序），它们承诺提供AI功能，但实际上包含恶意代码。虽然OWASP没有详细描述这种情况，但这也应是与供应链相关的一个关注点。
To translate the given English text into simplified Chinese while keeping the HTML structure intact, you can use the following: ```html
这就是本系列的第一部分的结束。希望内容清晰，并且您获得了一些见解，或者至少是对这个迷人世界的介绍。在接下来的文章中，我将描述剩余的五个漏洞，添加一些额外的细节，并预览前十名版本2中即将到来的内容。
``` This HTML code will display the translated text in simplified Chinese within a paragraph (`` tag), maintaining the structure as requested.
Sure, here is the translation of "Thanks for reading!" in simplified Chinese while keeping the HTML structure intact: ```html 谢谢阅读！ ```
