به گزارش پایگاه خبری تحلیلی «دیار آفتاب» داود فرجی فعال فرهنگی استان مرکزی در یادداشتی نوشت: جامعه رسانه‌ای  ایران در هفته‌های اخیر، شاهد پدیده‌ای نگران‌کننده و بی‌سابقه بوده است. انبوهی از تحلیل‌های نظامی-سیاسی که با عنوان «هشدار فوری هوش مصنوعی» یا «پیش‌بینی جنگ با الگوریتم» در شبکه‌های اجتماعی دست به دست می‌شوند.  این پدیده را نه یک نوآوری رسانه‌ای، که خطری جدی برای سلامت روانی جامعه و اعتبار تحلیل‌های داخلی ارزیابی می شود. این یادداشت، نه به دنبال رد هوش مصنوعی، بلکه به دنبال ترسیم مرز میان «ابزار» و «مرجع» است؛ مرزی که در هیاهوی تولید محتوای فوری، به فراموشی سپرده شده است.

مدل‌های زبانی رایگانی که امروز در دسترس عموم قرار دارند، در بهترین حالت، «شاعرانی ریاضی‌وار» هستند که کلمات را بر اساس احتمال کنار هم می‌چینند؛ آنها از ماهیت جنگ، پیچیدگی‌های میدانی، و داده‌های محرمانه، هیچ درکی ندارند. با این حال، تولیدکنندگان محتوای ایرانی، با پرامپت‌های سطحی و سوالات کلیشه‌ای (مثل «نتیجه حمله اسرائیل چیست؟»)، از این مدل‌ها می‌خواهند تا درباره سرنوشت یک منطقه جنگی تصمیم‌گیری کنند. نتیجه چیست؟ خروجی‌هایی که با واقعیت میدانی فاصله‌ای به وسعت یک توهم الگوریتمی دارند، اما با تیترهای هشدارآمیز و اعداد ساختگی، به خورد مخاطب داده می‌شوند.

 این متون خاص، «داستان علمی-تخیلی راهبردی» بیش نیست؛ ترکیبی از اخبار پراکنده، ذهنیت نویسنده، و خروجی یک مدل زبانی که برای جذب مخاطب و القای حس فوریت طراحی شده. اما مشکل اصلی، جعلی بودن این تحلیل ها نیست؛ مشکل، باور اشتباهی است که در میان تولیدکنندگان محتوا شکل گرفته، اینکه هوش مصنوعی رایگان، می‌تواند جای اندیشکده‌های نظامی و تحلیلگران باتجربه را بگیرد. این باور، نه تنها غیرحرفه‌ای، بلکه خطرناک است؛ چون جامعه را با انبوهی از اطلاعات غلط مواجه می‌کند که می‌تواند تصمیمات شخصی (از خرید طلا تا مهاجرت) را بر اساس توهمات الگوریتمی هدایت کند.

در این میان، سه خطای روش‌شناختی، مدام تکرار می‌شوند، نخست، استفاده از داده‌های «مرده» (مدل‌های رایگان معمولاً تا ۱۸ ماه قبل را پوشش می‌دهند، در حالی که تحلیل نظامی به داده‌های ۴۸ ساعت اخیر نیاز دارد).دوم، نادیده گرفتن سوگیری پنهان مدل‌ها (هر مدل زبانی، فرزند داده‌های خود است؛ مدل‌های آمریکایی سوگیری پنتاگون دارند و مدل‌های چینی، سوگیری پکن). سوم، ارائه پیش‌بینی‌های قطعی و جزم‌اندیشانه که در ادبیات تحلیلگران حرفه‌ای جایی ندارد.

وظیفه خود می‌دانم که خطاب به همکاران رسانه‌ای و تولیدکنندگان محتوا، سه توصیه عملی ارائه دهم.اول، هرگز از مدل‌های زبانی برای تحلیل رویدادهای آینده استفاده نکنید؛ از آنها صرفاً برای خلاصه‌سازی داده‌های تاریخی و مرور سناریوهای گذشته بهره بگیرید.دوم، هر خروجی هوش مصنوعی را با یک «فیلتر انسانی» عبور دهید؛ یک تحلیلگر متخصص باید سوگیری‌ها و خطاهای آماری را اصلاح کند. سوم، همواره از مدل بخواهید منبع ارائه دهد؛ تحلیلی که منبع ندارد، ارزش یک شایعه را دارد.

در پایان، باید تأکید کنیم که هوش مصنوعی، تکنولوژی خنثی است؛ نه شیطان و نه منجی. مشکل، نه در خود الگوریتم، که در نحوه استفاده از آن نهفته است. اگر از این ابزار به عنوان «دستیار» استفاده کنیم، می‌تواند مفید باشد؛ اما اگر آن را به عنوان «مرجع» بپذیریم، جامعه را به سمت انبوهی از اطلاعات نادرست و تصمیمات اشتباه سوق خواهیم داد. امروز، یکی از بزرگترین تهدید برای امنیت روانی جامعه، نه موشک‌های دشمن، بلکه تحلیل‌های بی‌پایه‌ای است که با لباس هوش مصنوعی، ذهن جمعی را آلوده می‌کنند.

از مخاطبان فهیم نیز می‌خواهیم که هر تحلیل نظامی-سیاسی را با سه سوال ساده بررسی کنند: منبع آن چیست؟ تاریخ داده‌هایش به کدام دوره بازمی‌گردد؟ آیا اعداد و احتمالات، پشتوانه آماری دارند یا صرفاً تخمینی ذهنی هستند؟ این سه سوال، می‌تواند سپر دفاعی شما در برابر موج تحلیل‌های ساختگی باشد. بیایید اجازه ندهیم الگوریتم‌ها، واقعیت جنگ را برای ما تعریف کنند.بیایید تحلیل را به اهلش بسپاریم و از فناوری، به اندازه ظرفیتش استفاده کنیم. این، مسیری است که اعتبار رسانه و سلامت جامعه را تضمین می‌کند.