هوش مصنوعی گوگل به دور از چشم انسان پیام های رمزی رد و بدل می کند
محققین پروژه یادگیری عمیق Google Brain قابلیت بسیار خارق العاده و البته خطرناکی را به هوش مصنوعی آموخته اند: رمزنگاری مبتنی بر AI و بدون دخالت انسان. پژوهشگران این مرکز تحقیقاتی به سه شبکه عصبی مصنوعی با نام های Alice و Bob و Eve اجازه دادند یادداشت هایی را با روش رمزنگاری ساخت خودشان، بین یکدیگر رد و بدل نمایند.
طبق گزارش New Scientist تیم مورد بحث برای هرکدام از AIها وظیفه ای را تعیین کردند: آلیس باید پیامی رمزی را ارسال می کرد که فقط باب قادر به خواندن آن بود، و Eve در این میان باید تلاش می کرد تا متن را رمزگشایی کند.
آزمایش با پیامی متنی و ساده شروع شد، که آلیس آن را به عبارات نامفهومی تبدیل کرد، و باب توانست آن را با استفاده از کلید مربوطه رمزگشایی کند. در آغاز، آلیس و باب در پنهان کردن پیام با مشکل مواجه بودند، اما پس از 15 هزار مرتبه تلاش، بالاخره توانستند راهکار رمزنگاری ویژه ای را بیابند.
در این حالت، آلیس از روش مخصوصی بهره گرفت و باب نیز به راحتی توانست نحوه رمزگشایی آن را متوجه شود، اما Eve از این فرایند کاملاً بی خبر ماند و فقط توانست نیمی از 16 بیت داده را به درستی حدس بزند، که به نظر می رسد آن هم کاملاً تصادفی بوده.
البته با توجه به اینکه سه هویت هوش مصنوعی مورد استفاده در این پروژه به صورت انسانی مورد خطاب قرار گرفته اند، شاید تصور کنید با عملیات ساده ای روبرو هستیم، اما در واقع حتی محققین نیز نمی دانند چه روش رمزنگاری توسط آلیس استفاده شده، و باب چگونه از نحوه رمزگشایی آن اطلاع یافته.
گفتنی است هنوز کاربرد عملی این آزمایش مشخص نیست، اما به هر حال باید کمی نگران بود، و با توجه به توسعه ابزارهای یادگیری عمیق اُپن-سورس همچون «جعبه ابزار شناختی» مایکروسافت، بعید نیست که AI ها در سرتاسر جهان با یکدیگر متحد شوند و ما هیچ روشی برای آگاهی از گفتگوی سرّی مابین آنها در اختیار نداشته باشیم.
The post appeared first on .
هوش مصنوعی گوگل به دور از چشم انسان پیام های رمزی رد و بدل می کند
محققین پروژه یادگیری عمیق Google Brain قابلیت بسیار خارق العاده و البته خطرناکی را به هوش مصنوعی آموخته اند: رمزنگاری مبتنی بر AI و بدون دخالت انسان. پژوهشگران این مرکز تحقیقاتی به سه شبکه عصبی مصنوعی با نام های Alice و Bob و Eve اجازه دادند یادداشت هایی را با روش رمزنگاری ساخت خودشان، بین یکدیگر رد و بدل نمایند.
طبق گزارش New Scientist تیم مورد بحث برای هرکدام از AIها وظیفه ای را تعیین کردند: آلیس باید پیامی رمزی را ارسال می کرد که فقط باب قادر به خواندن آن بود، و Eve در این میان باید تلاش می کرد تا متن را رمزگشایی کند.
آزمایش با پیامی متنی و ساده شروع شد، که آلیس آن را به عبارات نامفهومی تبدیل کرد، و باب توانست آن را با استفاده از کلید مربوطه رمزگشایی کند. در آغاز، آلیس و باب در پنهان کردن پیام با مشکل مواجه بودند، اما پس از 15 هزار مرتبه تلاش، بالاخره توانستند راهکار رمزنگاری ویژه ای را بیابند.
در این حالت، آلیس از روش مخصوصی بهره گرفت و باب نیز به راحتی توانست نحوه رمزگشایی آن را متوجه شود، اما Eve از این فرایند کاملاً بی خبر ماند و فقط توانست نیمی از 16 بیت داده را به درستی حدس بزند، که به نظر می رسد آن هم کاملاً تصادفی بوده.
البته با توجه به اینکه سه هویت هوش مصنوعی مورد استفاده در این پروژه به صورت انسانی مورد خطاب قرار گرفته اند، شاید تصور کنید با عملیات ساده ای روبرو هستیم، اما در واقع حتی محققین نیز نمی دانند چه روش رمزنگاری توسط آلیس استفاده شده، و باب چگونه از نحوه رمزگشایی آن اطلاع یافته.
گفتنی است هنوز کاربرد عملی این آزمایش مشخص نیست، اما به هر حال باید کمی نگران بود، و با توجه به توسعه ابزارهای یادگیری عمیق اُپن-سورس همچون «جعبه ابزار شناختی» مایکروسافت، بعید نیست که AI ها در سرتاسر جهان با یکدیگر متحد شوند و ما هیچ روشی برای آگاهی از گفتگوی سرّی مابین آنها در اختیار نداشته باشیم.
The post appeared first on .
هوش مصنوعی گوگل به دور از چشم انسان پیام های رمزی رد و بدل می کند
آخرین دیدگاه‌ها