افهم الحدود (والعواقب).
أولاً ، من المهم أن تفهم كيف تعمل التكنولوجيا لتعرف بالضبط ما تفعله بها.
يعد ChatGPT في الأساس إصدارًا أكثر قوة وحيوية من نظام النص التنبئي على هواتفنا ، والذي يقترح كلمات لإكمال جملة عندما نكتب باستخدام ما تعلمته من كميات هائلة من البيانات التي تم جمعها من الويب.
كما أنه لا يمكنه التحقق مما إذا كان ما يقوله صحيحًا.
إذا كنت تستخدم chatbot لتشفير برنامج ، فإنه يبحث في كيفية تجميع الكود في الماضي. قال كريستيان إنه نظرًا لتحديث الكود باستمرار لمعالجة الثغرات الأمنية ، فقد يكون الرمز المكتوب باستخدام روبوت محادثة عربات التي تجرها الدواب أو غير آمن.
وبالمثل ، إذا كنت تستخدم ChatGPT لكتابة مقال عن كتاب كلاسيكي ، فمن المحتمل أن يقوم الروبوت ببناء حجج تبدو معقولة. ولكن إذا نشر آخرون تحليلًا خاطئًا للكتاب على الويب ، فقد يظهر ذلك أيضًا في مقالتك. إذا تم نشر مقالتك عبر الإنترنت ، فستساهم في نشر المعلومات المضللة.
قالت ميلاني ميتشل ، باحثة الذكاء الاصطناعي في معهد سانتا في: “يمكنهم خداعنا للاعتقاد بأنهم يفهمون أكثر مما يفهمون ، وهذا يمكن أن يسبب مشاكل”.
بمعنى آخر ، الروبوت لا يفكر بشكل مستقل. لا يمكن حتى العد.
مثال على ذلك: لقد صدمت عندما طلبت من ChatGPT أن يؤلف قصيدة هايكو عن الطقس البارد في سان فرانسيسكو. بصق سطورًا تحتوي على عدد غير صحيح من المقاطع:
بطانيات الضباب المدينة ،
الرياح العاتية تبرد حتى العظم ،
الشتاء في سان فران.
رفضت شركة OpenAI ، الشركة التي تقف وراء ChatGPT ، التعليق على هذا العمود.
وبالمثل ، فإن أدوات تحرير الصور التي تعمل بالذكاء الاصطناعي مثل Lensa تقوم بتدريب خوارزمياتها باستخدام الصور الموجودة على الويب. لذلك ، إذا تم تقديم النساء في سياقات أكثر جنسية ، فإن الآلات ستعيد خلق هذا التحيز ، كما قالت السيدة ميتشل.
