借助 Ultralytics YOLOv8 践行负责任的 AI
学习如何使用 Ultralytics YOLOv8 开发负责任的 AI 解决方案，遵循最佳伦理和安全实践，并优先实现公平且合规的 AI 创新。
AI 的未来掌握在开发者、技术爱好者、企业领导者和其他利益相关者手中，他们正使用 Ultralytics YOLOv8 等工具和模型推动创新。然而，创建有影响力的 AI 解决方案不仅仅是使用先进技术，也意味着要以负责任的方式使用这些技术。
负责任的 AI 最近一直是 AI 社区热门的讨论话题，越来越多的人开始谈论其重要性并分享自己的观点。从线上讨论到行业活动，人们越来越关注如何让 AI 不仅强大，而且合乎道德。这些讨论中一个常见的主题是，确保每一位参与AI 项目的人员在每个阶段都秉持负责任的 AI 思维。
在本文中，我们将首先探讨近期与负责任的 AI 相关的事件和讨论。然后，我们会深入了解开发计算机视觉项目所面临的独特伦理和安全挑战，以及如何确保你的工作既具创新性又符合伦理要求。通过践行负责任的 AI 原则，我们可以创建真正惠及所有人的 AI！
2024 年的负责任 AI#
近年来，人们明显越来越重视让 AI 更符合伦理要求。2019 年，只有 5% 的组织制定了AI 伦理指南，但到 2020 年，这一比例已跃升至 45%。因此，我们开始看到更多与这一伦理转变所带来的挑战和成功相关的新闻。尤其是，生成式 AI 以及如何负责任地使用它成为热议话题。
2024 年第一季度，Google 的 AI 聊天机器人 Gemini 受到广泛讨论。Gemini 可以根据文本提示生成图像。其中，Gemini 被用于生成描绘不同历史人物的图像，例如将德国二战士兵描绘为有色人种。该 AI 聊天机器人旨在让其生成图像中的人物呈现更多样化，以有意实现包容性。然而，系统有时会误解特定语境，导致生成的图像被认为不准确且不恰当。
图 1 Gemini 生成的图像。
Google 搜索部门负责人 Prabhakar Raghavan 在一篇博客文章中解释说，AI 变得过于谨慎，甚至拒绝根据中性提示生成图像。Gemini 的图像生成功能旨在促进视觉内容的多样性和包容性，但这也引发了人们对历史呈现准确性、偏见影响范围以及负责任 AI 开发更广泛影响的担忧。如何在促进 AI 生成内容多样化呈现的目标与确保准确性及防止错误呈现的保障措施之间取得平衡，仍在持续争论。
这类事件清楚地表明，随着 AI 持续发展并更加深入地融入我们的日常生活，开发者和企业所做的决策可能会对社会产生重大影响。在下一节中，我们将深入介绍 2024 年负责任地构建和管理 AI 系统的技巧与最佳实践。无论你是刚刚起步，还是希望完善自己的方法，这些指南都将帮助你为更负责任的 AI 未来贡献力量。
Ultralytics YOLOv8 项目中的伦理考量#
使用 Ultralytics YOLOv8 构建计算机视觉解决方案时，务必牢记一些关键的伦理考量，例如偏见、公平性、隐私、无障碍性和包容性。下面通过一个实际例子来了解这些因素。
假设你正在为一家医院开发一套监控系统，用于监测走廊中的可疑行为。该系统可以使用 Ultralytics YOLOv8 检测人员在限制区域逗留、未授权进入等情况，甚至发现可能需要帮助的患者，例如误入危险区域的患者。系统会分析医院各处安防摄像头传输的实时视频，并在发生异常情况时向安保人员发送实时警报。
如果你的 Ultralytics YOLOv8 模型使用带有偏见的数据进行训练，就可能基于种族或性别等因素不公平地针对某些人群，从而导致误报甚至歧视。为避免这种情况，你必须平衡数据集，并使用相关技术检测和纠正偏见，例如：
- 数据增强：使用多样化示例扩充数据集，确保所有群体都得到均衡的呈现。
- 重新采样：调整训练数据中代表性不足类别的出现频率，以平衡数据集。
- 公平性感知算法：实施专门用于减少预测偏见的算法。
- 偏见检测工具：使用分析模型预测结果的工具来识别和纠正偏见。
隐私也是一个重要问题，尤其是在涉及敏感信息的医院等场所。Ultralytics YOLOv8 可能会捕获患者和工作人员的个人信息，例如面部或活动。为保护他们的隐私，你可以采取数据匿名化以移除可识别信息、在使用个人数据前获得适当同意，或模糊视频画面中的人脸等措施。此外，最好对数据进行加密，并确保安全存储和传输，以防止未经授权的访问。
设计系统时，同样要重视无障碍性和包容性。你应确保系统能够为所有人使用，不受其能力差异的影响。在医院环境中，这意味着所有工作人员、患者和访客都应能轻松使用系统，包括残障人士或有其他无障碍需求的人员。组建多元化团队也能在这方面发挥重要作用。来自不同背景的团队成员可以提供新的见解，帮助发现可能被忽视的问题。汇集多种观点后，你更有可能构建出对广泛人群都友好且易于使用的系统。
Ultralytics YOLOv8 的安全最佳实践#
在现实应用中部署 Ultralytics YOLOv8 时，务必优先考虑安全性，以同时保护模型及其使用的数据。以机场的排队管理系统为例，该系统使用 YOLOv8 结合计算机视觉来监测乘客流动。YOLOv8 可用于跟踪乘客通过安检点、登机口和其他区域的移动，以帮助识别拥堵点并优化人流，减少等待时间。系统可能会在机场各处战略性地部署摄像头，捕获实时视频，并通过YOLOv8 实时检测和计数乘客。系统生成的洞察随后可用于在线路过长时提醒工作人员、自动开放新的安检点，或调整人员配置，从而使运营更加顺畅。
图 3 使用 Ultralytics YOLOv8 管理机场售票柜台的队列。
在这种场景中，保护 Ultralytics YOLOv8 模型免受攻击和篡改至关重要。可以对模型文件进行加密，使未经授权的用户无法轻易访问或修改这些文件。你可以将模型部署在安全服务器上，并设置访问控制以防止篡改。定期进行安全检查和审计，有助于发现漏洞并确保系统安全。类似的方法也可用于保护敏感数据，例如乘客视频流。
为了进一步加强安全性，可以将 Snyk、GitHub CodeQL 和 Dependabot 等工具集成到开发流程中。Snyk 可帮助识别和修复代码及依赖项中的漏洞，GitHub CodeQL 会扫描代码中的安全问题，而 Dependabot 则使依赖项保持最新并及时应用最新的安全补丁。在 Ultralytics，这些工具已用于检测和防止安全漏洞。
常见陷阱及其规避方法#
尽管出于良好意愿并遵循最佳实践，疏漏仍可能发生，导致你的 AI 解决方案存在漏洞，尤其是在伦理和安全方面。了解这些常见问题有助于你主动应对并构建更稳健的 YOLOv8 模型。以下是需要留意的一些陷阱及其规避建议：
- 忽视法规合规性：不遵守 AI 相关法规可能导致法律困境并损害你的声誉。及时了解相关法律（例如用于数据保护的 GDPR），并通过定期开展合规检查确保你的模型符合要求。
- 缺乏真实环境下的测试：未经真实环境测试的模型在部署后可能会失效。在测试期间模拟真实环境中的极端场景，以便及早发现潜在问题，并调整模型使其对所有人都更易于使用。
- 缺少问责措施：如果 AI 系统不同部分的责任归属不明确，就很难处理错误、偏见或滥用问题，并可能导致更严重的后果。通过明确团队内部的角色和职责，并建立问题出现时的处理流程，为 AI 产生的结果确立清晰的责任归属。
- 未考虑环境影响：AI 模型可能对环境产生严重影响。例如，大规模部署可能需要数据中心提供支持，而数据中心会消耗大量能源来处理密集型计算。你可以优化模型以提高能源效率，并考虑训练和部署流程的环境足迹。
- 忽视文化敏感性：未考虑文化差异训练出的模型，在某些语境下可能不恰当或具有冒犯性。应在数据和开发流程中纳入多元文化视角，确保你的 AI 解决方案尊重文化规范和价值观。
图 4 伦理原则和要求。
使用 Ultralytics YOLOv8 构建符合伦理且安全的解决方案#
使用 Ultralytics YOLOv8 构建 AI 解决方案带来了许多令人振奋的可能性，但牢记伦理和安全至关重要。通过关注公平性、隐私、透明度并遵循正确的指南，我们可以创建既表现出色又尊重人们权利的模型。数据偏见、隐私保护或确保所有人都能使用系统等问题很容易被忽视，但花时间解决这些问题可能带来根本性的改变。随着我们继续借助 YOLOv8 等工具拓展 AI 的能力边界，也别忘了技术背后的人性关怀。通过审慎并主动地采取行动，我们可以构建既负责任又先进的 AI 创新！
别忘了加入我们的社区，获取 AI 领域的最新动态！你还可以访问我们的 GitHub 代码仓库进一步了解 AI，并探索我们在制造业和自动驾驶等不同领域的解决方案。
