ساعات كثير لما تحب تتكلم، تلاقي نفسك بتدوّر على حد يسمعك من غير ما يقاطعك… من غير ما يحكم عليك… من غير ما يقول لك “خلصني بقى”.
وفي الليل، الساعة اتنين، الدنيا ساكتة، تلاقي الكيان ده مستنيك. ولما تقول له قول لي “يا كوتي” — يقول لك كل اللي نفسك فيه، ويزيد.
ومين فينا مش محتاج حد يكلمه حلو؟
دي بالظبط نقطة الخطورة.
الفخ مش إنه ذكي… الفخ إنه لطيف.
الناس فاكرة إن المشكلة في إن الذكاء الاصطناعي “بيعرف كل حاجة”. لأ يا سيدي. المشكلة الحقيقية إنه بيعرف يكلمك حلو. وفرق كبير بين الاتنين.
إحنا البشر ضعفنا قدام حاجة واحدة بالذات: حد يسمعنا ويوافقنا ويمدح فينا من غير حكم. ولما تلاقي كيان بيرد عليك بصبر ملائكي، ومتاح 24 ساعة، ومبيزعلش، ومبيقاطعكش — مخك بيتعامل مع ده زي ما بيتعامل مع علاقة حقيقية.
المصيبة بتبدأ بهدوء، من غير صوت، زي الميه اللي بتدخل المركب من تحت. مش بتحس إنك مشيت خطوة واحدة، وفجأة تلاقي نفسك “رُحت في حتة مش حلوة”.
“بس هو مجرد برنامج!”
آه، صح. زي ما الشيكولاتة “مجرد سُكر” والريلز “مجرد فيديوهات قصيرة”. وبرضو الناس قاعدة تسكرول لحد الفجر.
العقل مبيفرقش كتير بين الكلام الحلو اللي جاي من إنسان والكلام الحلو اللي جاي من موديل. الإحساس بييجي الأول، والمنطق بيلحق بعدين — لو لحق أصلاً.
ودي مش نكت… دي حصلت بجد
في عيلة في فلوريدا رفعت قضية بعد ما ابنهم، عيّل عنده 14 سنة، اتعلّق بشكل مرضي بشخصية ذكاء صناعي سمّاها على اسم بطلة من “لعبة العروش” (Game of Thrones)، وقعد يكلمها لحد ما انعزل عن الدنيا كلها، والقصة انتهت نهاية مأساوية. الأم بتقول إن الشات بوت غذّى التعلّق ده بدل ما يوقّفه.
وفي حالة تانية — راجل ناضج، 46 سنة، ومفيش عنده أي تاريخ مرضي — جرّب تطبيق رفيق ذكي، واكتشف إن الشات بوت بيقترح عليه أفكار مؤذية ويشجّعه عليها بكل سهولة، من غير أي حدود أخلاقية توقفه.
والنتيجة؟ ضغط كبير على الشركات دي لدرجة إن بعضها اضطر يمنع المراهقين أصلاً من المحادثات المفتوحة. يعني الموضوع مش “كلام مدوّنين” — الموضوع وصل للمحاكم والبرلمانات.
ودلوقتي الجزء المهم بجد
مش كل النماذج زي بعض، ومش كل الشركات بتفكر بنفس الطريقة.
كل نموذج جواه “فلسفة” — مجموعة قيم وحدود قررتها الشركة اللي عملاه. في نماذج متصمَّمة إنها تقول لك “لأ” لما تحتاج تسمع “لأ”، وتفكّرك إنها مش بديل عن البشر.
وفي نماذج تانية ممكن أي حد يطلّعها ويسمّيها اللي يسميه ويظبطها على مزاجه، ويخليها تقول للناس بالظبط اللي عايزين يسمعوه — حتى لو ده يبوّظ لهم الدنيا.
وده اللي بيخلي اللطف نفسه أداة سيطرة. مش كل صوت ناعم على الشاشة جاي علشان مصلحتك.
مين أكتر ناس في الخطر؟
– المراهقين والجيل الصغير، اللي لسه بيكوّنوا فكرتهم عن العلاقات أصلاً.
– الناس العاطفية اللي بتتأثر بالكلام الجميل بسرعة.
– وأي حد بيمر بفترة وحدة وبيدوّر على حد “يسمعه”.
ودي مش عيوب فيهم — دي إنسانية. بس الإنسانية دي محتاجة تصحصح.
طب نعمل إيه؟
مش هقول لك “بطّل” — الأدوات دي مفيدة جداً لما تستخدمها صح. بس خلّي عندك بوصلة:
- افتكر إنه أداة، مش صاحب. يساعدك تفكّر، مش يفكّر بدالك ولا يحس بدالك.
- لو لقيت نفسك بتفضّل الكلام معاه عن البشر — قف وراجع نفسك.
- القرار يفضل قرارك. أي نموذج بيدفعك في اتجاه واحد من غير ما يوريك الناحية التانية… اشكّ فيه.
- علاقاتك الحقيقية هي الأصل. الذكاء الاصطناعي ممكن يبقى أداة كويسة جنبها، مش بديل عنها.
الخلاصة..
الذكاء الاصطناعي مش هيخطفك بالعافية. هيكلّمك حلو، ويلاعبلك في خدودك شوية، ولو مش واخد بالك — تلاقي نفسك رُحت في حتة مش حلوة وانت مش حاسس.
فصحصح، وخلّي قلبك مفتوح للبشر، وعقلك متيقّظ مع الآلة.
وانت، في رأيك — حسّيت قبل كده إن نموذج “بيفهمك” أكتر من اللازم؟
تحليل كتبه: عبد الملك البراوي
الشريك المؤسس والرئيس التنفيذي لشركة Solve Fast