اگر گوگل ما را می‌شناسد، هوش مصنوعی چه می‌داند؟
- ۱۵ ,مهر, ۱۴۰۵
به تازگی کتابی خواندم که مدت‌ها پیش منتشر شده (۲۰۱۷) یعنی تقریبا ۱۰ سال پیش؛ «همه دروغ می‌گویند» نوشته استیونز-دیویدوویتز.
راستش را بخواهید، پیش از خواندن کتاب، با اصل موضوع بیگانه نبودم و کم‌وبیش چیزهایی درباره داده‌های بزرگ (Big Data) و استفاده از اطلاعات جست‌وجوهای اینترنتی شنیده بودم؛ اما این کتاب باعث شد بیشتر متوجه شوم با چه پدیده عجیب و البته مهمی روبه‌رو هستیم.
چیزی که برای من در این کتاب جالب بود، فقط خودِ «داده‌های بزرگ» نبود؛ بلکه این بود که انسان را می‌شود از روی چیزهایی شناخت که خودش لزوماً قصد ندارد درباره خودش بگوید.
ما معمولاً برای شناختن آدم‌ها از خودشان سؤال می‌کنیم. نظرسنجی می‌کنیم، پرسشنامه می‌دهیم، مصاحبه می‌کنیم و از مردم می‌پرسیم چه فکر می‌کنند، چه می‌خواهند و چه رفتاری خواهند داشت. اما کتاب کم‌کم این سؤال را ایجاد می‌کند که اصلاً چقدر می‌شود به پاسخ‌های انسان‌ها اعتماد کرد؟ به عبارتی نظر سنجی‌ها چقدر معتبر و قابل اتکا هستند؟
آدم‌ها همیشه آن چیزی را که واقعاً فکر می‌کنند به زبان نمی‌آورند. گاهی چیزی را می‌گویند که دوست دارند دیگران درباره‌شان فکر کنند؛ گاهی چیزی را می‌گویند که تصور می‌کنند پاسخ درست و قابل قبول است؛ گاهی حتی خودشان هم دقیقاً نمی‌دانند چرا فلان رفتار را انجام می‌دهند. ممکن است وقتی از ما درباره یک موضوع سؤال می‌کنند، یک پاسخ بدهیم، اما وقتی پای رفتار واقعی‌مان به میان می‌آید، اتفاق دیگری بیفتد.
همین‌جا بود که برای من جست‌وجوی اینترنتی جذاب شد.
آدم وقتی در شبکه‌های اجتماعی فعالیت می‌کند، هنوز تا حد زیادی در حال «ارائه خودش» است. چیزی را منتشر می‌کند که می‌خواهد دیگران ببینند. عکس خاصی می‌گذارد، درباره موضوع خاصی حرف می‌زند، چیزی را لایک می‌کند یا اصلاً بعضی چیزها را عمداً منتشر نمی‌کند. در واقع شبکه اجتماعی تا حدی صحنه نمایش ماست؛ تصویری از خودمان که انتخاب کرده‌ایم به دیگران نشان بدهیم.
اما جست‌وجوی گوگل جنس دیگری دارد.
وقتی کسی چیزی را در گوگل جست‌وجو می‌کند، لزوماً مخاطبی روبه‌رویش نیست که بخواهد برای او تصویر خاصی از خودش بسازد. ممکن است چیزی را جست‌وجو کند که اگر کسی کنارش بود، اصلاً حاضر نبود آن را به زبان بیاورد.
شاید بتوان گفت شبکه اجتماعی بیشتر به ما می‌گوید انسان‌ها دوست دارند چگونه دیده شوند و جست‌وجوهای اینترنتی گاهی چیزهایی را نشان می‌دهد که انسان‌ها واقعاً می‌خواهند بدانند.
و همین تفاوت، داده‌های جست‌وجو را برای شناخت انسان بسیار جدی می‌کند.
در کتاب نمونه‌های مختلفی از این موضوع مطرح می‌شود و بعضی از آن‌ها واقعاً عجیب‌اند. از روی انبوه جست‌وجوهای مردم می‌توان چیزهایی درباره ترس‌ها، علاقه‌ها، نگرانی‌ها، تمایلات و حتی بعضی رفتارهای پنهان جامعه فهمید؛ چیزهایی که شاید با هیچ پرسشنامه‌ای به این سادگی به دست نیایند.
اینجا است که «داده‌های بزرگ» دیگر فقط یک اصطلاح فنی و مربوط به دنیای کامپیوتر نیست. تبدیل می‌شود به یک ابزار برای شناخت انسان و جامعه.
البته خود این پدیده فقط فرصت نیست. خطر هم هست.
هرچه اطلاعات بیشتری درباره انسان داشته باشیم، هم امکان شناخت و حل مسائل بیشتر می‌شود و هم امکان سوءاستفاده. اگر بتوانیم از داده‌های مردم چیزهایی را بفهمیم که خودشان حاضر نیستند به زبان بیاورند، همین قدرت می‌تواند هم برای بهتر کردن زندگی مردم استفاده شود و هم برای کنترل، فریب یا بهره‌برداری از آن‌ها. به نوعی می‌توان گفت بیگ‌دیتا یکی از ابزار‌های مهم حکمرانی است که حسن استفاده یا سوء استفاده از آن مانند دیگر ابزار‌ها در دست حکمران است.
اما چیزی که بیشتر از همه ذهنم را درگیر کرد، این بود که این کتاب در دوره‌ای نوشته شده که هنوز هوش مصنوعی مولد به شکل امروزی وارد زندگی عمومی نشده بود. بله همین استفاده از این بیگ‌دیتا که واقعا دیتا بزرگی محسوب می‌شود، نیاز به ماشین و نوعی هوش مصنوعی دارد؛ اساسا تحلیل این دیتا و بیرون کشیدن الگو از آن، کار هوش انسانی و غیر ماشینی نیست، کاملا نیازمند هوش ماشینی و کامپیوتر‌های قدرتمند هست. امّا منظورم این است که استفاده از هوش مصنوعی در میان مردم رواج پیدا کند و خود این منبعی برای بیگ‌دیتا بشود.
و اینجا به نظرم یک مرحله عجیب‌تر شروع می‌شود.
گوگل از جست‌وجوهای ما چیزهایی درباره ما می‌فهمد. اما هوش مصنوعی فقط یک کلمه یا یک عبارت جست‌وجوشده را نمی‌بیند. ما با هوش مصنوعی حرف می‌زنیم. سؤال می‌پرسیم، توضیح می‌دهیم، اشتباه می‌کنیم، برمی‌گردیم، نظرمان را عوض می‌کنیم، از چیزی دفاع می‌کنیم، درباره چیزی تردید می‌کنیم و گاهی حتی چیزهایی را می‌گوییم که شاید به هیچ انسان دیگری نگفته باشیم.
اگر جست‌وجوهای گوگل می‌تواند پنجره‌ای به خواسته‌ها و کنجکاوی‌های پنهان انسان باشد، گفت‌وگوهای ما با هوش مصنوعی ممکن است پنجره‌ای بسیار عمیق‌تر به نحوه فکر کردن انسان باشد.
این برای من واقعاً شگفت‌انگیز است.
فرض کنیم روزی داده‌های حاصل از میلیون‌ها و میلیاردها گفت‌وگوی انسان‌ها با هوش مصنوعی بتواند در مقیاس وسیع تحلیل شود. آن وقت فقط نمی‌دانیم مردم چه چیزی را جست‌وجو کرده‌اند؛ می‌توانیم بفهمیم درباره چه چیزی سؤال داشته‌اند، چه چیزی برایشان مسئله بوده، چگونه درباره آن فکر کرده‌اند، چه چیزهایی برایشان مبهم بوده، چه چیزهایی آن‌ها را قانع کرده و چه چیزهایی قانعشان نکرده است.
آن‌وقت داده‌های بزرگ، دیگر فقط داده‌هایی درباره رفتار انسان نیستند؛ ممکن است به داده‌هایی درباره ذهن و بلکه شخصیت و هویت انسان تبدیل شوند.
و این هم می‌تواند فوق‌العاده مفید باشد و هم فوق‌العاده خطرناک.
می‌توان از آن برای شناخت بهتر جامعه، آموزش بهتر، کشف مسائل پنهان مردم، بهبود خدمات، پژوهش و حتی حل بسیاری از مشکلات استفاده کرد. اما همین اطلاعات، اگر در اختیار آدم‌ها یا ساختارهای نادرست قرار بگیرد، می‌تواند قدرتی بسیار بزرگ برای دستکاری و سوءاستفاده ایجاد کند.
شاید عجیب باشد، اما بعد از خواندن «همه دروغ می‌گویند» بیش از آنکه فقط درباره داده‌های بزرگ فکر کنم، درباره آینده هوش مصنوعی فکر کردم؛ چیزی که البته سه یا چهار سالی است که ذهنم را درگیر خود کرده است.
کتاب به من نشان داد که از چیزهایی که انسان بدون توجه و بدون قصدِ خوداظهاری تولید می‌کند، چه اطلاعاتی می‌توان به دست آورد.
حالا سؤال این است:
اگر جست‌وجوهای ما می‌توانند چیزهایی درباره ما بگویند، گفت‌وگوهای ما با هوش مصنوعی چه چیزهایی درباره ما خواهند گفت؟
و شاید هنوز خودمان نمی‌دانیم پاسخ این سؤال چقدر می‌تواند مهم باشد.
حال این را هم در نظر بگیرید که بیگ‌دیتا‌های تمامی هوش‌های مصنوعی موجود و در دسترس مردم، در کدام کشور است؛ جریان استعماری که از هیچ ابزاری برای سلطه خود چشم‌پوشی نمی‌کند، حتی هوش مصنوعی را هم در خدمت خود گرفته است، بیگ دیتا حاصل از آن را هم فرصتی برای اعمال سلطه خود می‌بیند. مگر نشنیدید اخبار استفاده هوش مصنوعی در جنگ ۱۲ روزه و جنگ رمضان؟
به گمانم مسئله «هوش مصنوعی» یک مسئله بسیار جدی «امنیت ملی» محسوب می‌شود؛ حال کدام نهاد و مسئول باید آن را جدی بگیرد، نمی‌دانم! نمی‌خواهم بگویم همه را ببندیم و تعطیل کنیم، خودم هم از ابزار هوش مصنوعی زیاد استفاده می‌کنم؛ امّا سوال این است که نباید فناوری‌های اینچنین پایه را جدی گرفت؟ یا سوال دیگر؛ آیا نباید به هوش مصنوعی هم در عِداد انرژی هسته‌ای وزن استراتژیک داد و احیانا روی آن ایستاد؟ جنگ آینده بر سر نفت است یا انرژی هسته‌ای یا فناوری‌هایی مثل هوش مصنوعی؟ شما هم شنیدید که در ترور‌های دو جنگ ۱۲ روزه و جنگ رمضان، دانشمندان هوش مصنوعی هم ترور شدند؟
۱۵ مهر ۱۴۰۵
وادی فتوت – قم