تعرف على كيفية دمج ممارسات الذكاء الاصطناعي المسؤول في سير عمل تعلم الآلة باستخدام TensorFlow
تلتزم TensorFlow بالمساعدة في إحراز تقدم في التطوير المسؤول للذكاء الاصطناعي من خلال مشاركة مجموعة من الموارد والأدوات مع مجتمع تعلم الآلة.
ما هو الذكاء الاصطناعي المسؤول؟
يؤدي تطور الذكاء الاصطناعي إلى خلق فرص جديدة لحل المشكلات الصعبة في العالم الحقيقي. كما أنه يثير أسئلة جديدة حول أفضل طريقة لبناء أنظمة الذكاء الاصطناعي التي يستفيد منها الجميع.
أفضل الممارسات الموصى بها للذكاء الاصطناعي
يجب أن يتبع تصميم أنظمة الذكاء الاصطناعي أفضل ممارسات تطوير البرمجيات مع التركيز على الإنسان
النهج إلى ML
الإنصاف
ومع تزايد تأثير الذكاء الاصطناعي عبر القطاعات والمجتمعات، فمن الأهمية بمكان العمل على إيجاد أنظمة عادلة وشاملة للجميع
القابلية للتفسير
يعد فهم أنظمة الذكاء الاصطناعي والثقة بها أمرًا مهمًا لضمان عملها على النحو المنشود
خصوصية
تحتاج نماذج التدريب المعتمدة على البيانات الحساسة إلى ضمانات للحفاظ على الخصوصية
حماية
يمكن أن يساعد تحديد التهديدات المحتملة في الحفاظ على أنظمة الذكاء الاصطناعي آمنة ومأمونة
الذكاء الاصطناعي المسؤول في سير عمل تعلم الآلة لديك
يمكن دمج ممارسات الذكاء الاصطناعي المسؤولة في كل خطوة من خطوات سير عمل تعلم الآلة. فيما يلي بعض الأسئلة الأساسية التي يجب مراعاتها في كل مرحلة.
لمن نظام ML الخاص بي؟
تعد الطريقة التي يختبر بها المستخدمون الفعليون نظامك أمرًا ضروريًا لتقييم التأثير الحقيقي لتوقعاته وتوصياته وقراراته. تأكد من الحصول على مدخلات من مجموعة متنوعة من المستخدمين في وقت مبكر من عملية التطوير الخاصة بك.
هل أستخدم مجموعة بيانات تمثيلية؟
هل يتم أخذ عينات من بياناتك بطريقة تمثل المستخدمين (على سبيل المثال، سيتم استخدامها لجميع الأعمار، ولكن لديك فقط بيانات تدريب من كبار السن) والإعدادات الواقعية (على سبيل المثال، سيتم استخدامها على مدار العام، ولكن لديك تدريب فقط بيانات من الصيف)؟
هل هناك تحيز في العالم الحقيقي/البشري في بياناتي؟
يمكن أن تساهم التحيزات الأساسية في البيانات في خلق حلقات ردود فعل معقدة تعزز الصور النمطية الموجودة.
ما الأساليب التي يجب أن أستخدمها لتدريب النموذج الخاص بي؟
استخدم أساليب التدريب التي تبني العدالة وقابلية التفسير والخصوصية والأمان في النموذج.
كيف يتم أداء النموذج الخاص بي؟
قم بتقييم تجربة المستخدم في سيناريوهات العالم الحقيقي عبر مجموعة واسعة من المستخدمين وحالات الاستخدام وسياقات الاستخدام. قم بإجراء الاختبار والتكرار في التطبيق التجريبي أولاً، ثم يليه الاختبار المستمر بعد الإطلاق.
هل هناك حلقات ردود فعل معقدة؟
حتى لو تم تصميم كل شيء في التصميم العام للنظام بعناية، نادرًا ما تعمل النماذج المستندة إلى التعلم الآلي بنسبة 100% من الكمال عند تطبيقها على بيانات حقيقية وحية. عند حدوث مشكلة في منتج حي، فكر في ما إذا كانت تتوافق مع أي عيوب مجتمعية موجودة، وكيف ستتأثر بالحلول القصيرة والطويلة الأجل.
أدوات الذكاء الاصطناعي المسؤولة لـ TensorFlow
يحتوي نظام TensorFlow البيئي على مجموعة من الأدوات والموارد للمساعدة في معالجة بعض الأسئلة أعلاه.
تحديد المشكلة
استخدم الموارد التالية لتصميم النماذج مع وضع الذكاء الاصطناعي المسؤول في الاعتبار.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_pair-guidebook.jpg?hl=ar)
تعرف على المزيد حول عملية تطوير الذكاء الاصطناعي والاعتبارات الأساسية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explorable-bias.jpg?hl=ar)
استكشف، من خلال المرئيات التفاعلية، الأسئلة والمفاهيم الرئيسية في مجال الذكاء الاصطناعي المسؤول.
بناء البيانات وإعدادها
استخدم الأدوات التالية لفحص البيانات بحثًا عن التحيزات المحتملة.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_know-your-data.jpg?hl=ar)
قم بالتحقيق بشكل تفاعلي في مجموعة البيانات الخاصة بك لتحسين جودة البيانات والتخفيف من مشكلات العدالة والتحيز.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-data-validation.jpg?hl=ar)
تحليل البيانات وتحويلها لاكتشاف المشكلات وهندسة مجموعات ميزات أكثر فعالية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_data-cards.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/title_responsible-ai.jpg?hl=ar)
مقياس أكثر شمولاً للون البشرة، مفتوح ومرخص، لجعل عملية جمع البيانات وبناء النماذج الخاصة بك تحتاج إلى المزيد من القوة والشمول.
نموذج بناء وتدريب
استخدم الأدوات التالية لتدريب النماذج باستخدام تقنيات الحفاظ على الخصوصية والقابلة للتفسير والمزيد.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-remediation-library.jpeg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-privacy.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-federated.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_constrained-optimization.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_lattice.jpg?hl=ar)
تقييم النموذج
تصحيح أداء النموذج وتقييمه وتصوره باستخدام الأدوات التالية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_fairness-indicators.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-analysis.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_what-if-tool.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_language-interpretability-tool.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explainable-ai.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tf-privacy-testing.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorboard.png?hl=ar)
النشر والمراقبة
استخدم الأدوات التالية لتتبع سياق النموذج وتفاصيله والتواصل بشأنه.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model_card_toolkit.png?hl=ar)
قم بإنشاء بطاقات نموذجية بسهولة باستخدام مجموعة أدوات Model Card.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_ml-metadata.jpg?hl=ar)
قم بتسجيل واسترجاع البيانات التعريفية المرتبطة بسير عمل مطور ML وعالم البيانات.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model-cards.jpg?hl=ar)
موارد المجتمع
تعرف على ما يفعله المجتمع واستكشف طرق المشاركة فيه.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_crowdsource.jpg?hl=ar)
ساعد منتجات Google في أن تصبح أكثر شمولاً وتمثيلاً للغتك ومنطقتك وثقافتك.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tensorflow.jpg?hl=ar)
لقد طلبنا من المشاركين استخدام TensorFlow 2.2 لبناء نموذج أو تطبيق مع وضع مبادئ الذكاء الاصطناعي المسؤول في الاعتبار. قم بزيارة المعرض لرؤية الفائزين والمشاريع الرائعة الأخرى.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tf-dev-summit.jpg?hl=ar)
تقديم إطار عمل للتفكير في تعلم الآلة والعدالة والخصوصية.
تعرف على كيفية دمج ممارسات الذكاء الاصطناعي المسؤول في سير عمل تعلم الآلة باستخدام TensorFlow
تلتزم TensorFlow بالمساعدة في إحراز تقدم في التطوير المسؤول للذكاء الاصطناعي من خلال مشاركة مجموعة من الموارد والأدوات مع مجتمع تعلم الآلة.
ما هو الذكاء الاصطناعي المسؤول؟
يؤدي تطور الذكاء الاصطناعي إلى خلق فرص جديدة لحل المشكلات الصعبة في العالم الحقيقي. كما أنه يثير أسئلة جديدة حول أفضل طريقة لبناء أنظمة الذكاء الاصطناعي التي يستفيد منها الجميع.
أفضل الممارسات الموصى بها للذكاء الاصطناعي
يجب أن يتبع تصميم أنظمة الذكاء الاصطناعي أفضل ممارسات تطوير البرمجيات مع التركيز على الإنسان
النهج إلى ML
الإنصاف
ومع تزايد تأثير الذكاء الاصطناعي عبر القطاعات والمجتمعات، فمن الأهمية بمكان العمل على إيجاد أنظمة عادلة وشاملة للجميع
القابلية للتفسير
يعد فهم أنظمة الذكاء الاصطناعي والثقة بها أمرًا مهمًا لضمان عملها على النحو المنشود
خصوصية
تحتاج نماذج التدريب المعتمدة على البيانات الحساسة إلى ضمانات للحفاظ على الخصوصية
حماية
يمكن أن يساعد تحديد التهديدات المحتملة في الحفاظ على أنظمة الذكاء الاصطناعي آمنة ومأمونة
الذكاء الاصطناعي المسؤول في سير عمل تعلم الآلة لديك
يمكن دمج ممارسات الذكاء الاصطناعي المسؤولة في كل خطوة من خطوات سير عمل تعلم الآلة. فيما يلي بعض الأسئلة الأساسية التي يجب مراعاتها في كل مرحلة.
لمن نظام ML الخاص بي؟
تعد الطريقة التي يختبر بها المستخدمون الفعليون نظامك أمرًا ضروريًا لتقييم التأثير الحقيقي لتوقعاته وتوصياته وقراراته. تأكد من الحصول على مدخلات من مجموعة متنوعة من المستخدمين في وقت مبكر من عملية التطوير الخاصة بك.
هل أستخدم مجموعة بيانات تمثيلية؟
هل يتم أخذ عينات من بياناتك بطريقة تمثل المستخدمين (على سبيل المثال، سيتم استخدامها لجميع الأعمار، ولكن لديك فقط بيانات تدريب من كبار السن) والإعدادات الواقعية (على سبيل المثال، سيتم استخدامها على مدار العام، ولكن لديك تدريب فقط بيانات من الصيف)؟
هل هناك تحيز في العالم الحقيقي/البشري في بياناتي؟
يمكن أن تساهم التحيزات الأساسية في البيانات في خلق حلقات ردود فعل معقدة تعزز الصور النمطية الموجودة.
ما الأساليب التي يجب أن أستخدمها لتدريب النموذج الخاص بي؟
استخدم أساليب التدريب التي تبني العدالة وقابلية التفسير والخصوصية والأمان في النموذج.
كيف يتم أداء النموذج الخاص بي؟
قم بتقييم تجربة المستخدم في سيناريوهات العالم الحقيقي عبر مجموعة واسعة من المستخدمين وحالات الاستخدام وسياقات الاستخدام. قم بإجراء الاختبار والتكرار في التطبيق التجريبي أولاً، ثم يليه الاختبار المستمر بعد الإطلاق.
هل هناك حلقات ردود فعل معقدة؟
حتى لو تم تصميم كل شيء في التصميم العام للنظام بعناية، نادرًا ما تعمل النماذج المستندة إلى التعلم الآلي بنسبة 100% من الكمال عند تطبيقها على بيانات حقيقية وحية. عند حدوث مشكلة في منتج حي، فكر في ما إذا كانت تتوافق مع أي عيوب مجتمعية موجودة، وكيف ستتأثر بالحلول القصيرة والطويلة الأجل.
أدوات الذكاء الاصطناعي المسؤولة لـ TensorFlow
يحتوي نظام TensorFlow البيئي على مجموعة من الأدوات والموارد للمساعدة في معالجة بعض الأسئلة أعلاه.
تحديد المشكلة
استخدم الموارد التالية لتصميم النماذج مع وضع الذكاء الاصطناعي المسؤول في الاعتبار.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_pair-guidebook.jpg?hl=ar)
تعرف على المزيد حول عملية تطوير الذكاء الاصطناعي والاعتبارات الأساسية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explorable-bias.jpg?hl=ar)
استكشف، من خلال المرئيات التفاعلية، الأسئلة والمفاهيم الرئيسية في مجال الذكاء الاصطناعي المسؤول.
بناء البيانات وإعدادها
استخدم الأدوات التالية لفحص البيانات بحثًا عن التحيزات المحتملة.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_know-your-data.jpg?hl=ar)
قم بالتحقيق بشكل تفاعلي في مجموعة البيانات الخاصة بك لتحسين جودة البيانات والتخفيف من مشكلات العدالة والتحيز.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-data-validation.jpg?hl=ar)
تحليل البيانات وتحويلها لاكتشاف المشكلات وهندسة مجموعات ميزات أكثر فعالية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_data-cards.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/title_responsible-ai.jpg?hl=ar)
مقياس أكثر شمولاً للون البشرة، مفتوح ومرخص، لجعل عملية جمع البيانات وبناء النماذج الخاصة بك تحتاج إلى المزيد من القوة والشمول.
نموذج بناء وتدريب
استخدم الأدوات التالية لتدريب النماذج باستخدام تقنيات الحفاظ على الخصوصية والقابلة للتفسير والمزيد.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-remediation-library.jpeg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-privacy.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-federated.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_constrained-optimization.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_lattice.jpg?hl=ar)
تقييم النموذج
تصحيح أداء النموذج وتقييمه وتصوره باستخدام الأدوات التالية.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_fairness-indicators.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorflow-model-analysis.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_what-if-tool.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_language-interpretability-tool.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_explainable-ai.jpg?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tf-privacy-testing.png?hl=ar)
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_tensorboard.png?hl=ar)
النشر والمراقبة
استخدم الأدوات التالية لتتبع سياق النموذج وتفاصيله والتواصل بشأنه.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model_card_toolkit.png?hl=ar)
قم بإنشاء بطاقات نموذجية بسهولة باستخدام مجموعة أدوات Model Card.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_ml-metadata.jpg?hl=ar)
قم بتسجيل واسترجاع البيانات التعريفية المرتبطة بسير عمل مطور ML وعالم البيانات.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/tools/tile_model-cards.jpg?hl=ar)
موارد المجتمع
تعرف على ما يفعله المجتمع واستكشف طرق المشاركة فيه.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_crowdsource.jpg?hl=ar)
ساعد منتجات Google في أن تصبح أكثر شمولاً وتمثيلاً للغتك ومنطقتك وثقافتك.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tensorflow.jpg?hl=ar)
لقد طلبنا من المشاركين استخدام TensorFlow 2.2 لبناء نموذج أو تطبيق مع وضع مبادئ الذكاء الاصطناعي المسؤول في الاعتبار. قم بزيارة المعرض لرؤية الفائزين والمشاريع الرائعة الأخرى.
![](https://www.tensorflow.org/static/site-assets/images/marketing/resources/responsible-ai/other/tile_tf-dev-summit.jpg?hl=ar)
تقديم إطار عمل للتفكير في تعلم الآلة والعدالة والخصوصية.