یکی از مدیران جستجوی گوگل گفت که یکی از بزرگترین فرصت‌های این شرکت در زمینه هوش مصنوعی، در توانایی آن برای شناخت بهتر کاربر و شخصی‌سازی پاسخ‌هایش نهفته است.

وعده هوش مصنوعی‌ای است که چون شما را می‌شناسد، به‌طور منحصربه‌فردی مفید باشد. اما خطرش هوش مصنوعی‌ای است که بیشتر شبیه نظارت است تا خدمت.

در یکی از قسمت‌های اخیر پادکست Limitless، رابی استاین، معاون مدیر محصول جستجوی گوگل، توضیح داد که هوش مصنوعی گوگل تمایل دارد به پرس‌وجوهایی که به دنبال مشاوره یا توصیه‌ هستند، پاسخ دهد – و این نوع سوالات بیشتر از پاسخ‌های عینی سود می‌برند.

استاین در مصاحبه گفت: «ما فکر می‌کنیم فرصت بزرگی برای هوش مصنوعی ما وجود دارد تا شما را بهتر بشناسد و به خاطر آن دانش، به‌طور منحصربه‌فردی مفید باشد.» «و یکی از چیزهایی که در کنفرانس توسعه‌دهندگان گوگل، I/O، درباره آن صحبت کردیم، این بود که چگونه هوش مصنوعی می‌تواند از طریق سرویس‌های متصل مانند جیمیل، درک بهتری از شما پیدا کند.»

گوگل مدتی است که هوش مصنوعی را در برنامه‌های خود ادغام کرده است، که از زمانی شروع شد که جمنای هنوز با نام Bard شناخته می‌شد. اخیراً، داده‌های شخصی را در محصول هوش مصنوعی دیگری به نام Gemini Deep Research ادغام کرده است. و جمنای اکنون در برنامه‌های Google Workspace مانند جیمیل، تقویم و درایو ادغام شده است.

اما با ادغام بیشتر داده‌های شخصی توسط گوگل در هوش مصنوعی خود – که شامل ایمیل‌ها، اسناد، عکس‌ها، تاریخچه موقعیت مکانی و رفتار مرور شما می‌شود – مرز بین یک دستیار مفید و یک دستیار مزاحم به‌طور فزاینده‌ای محو می‌شود. و برخلاف سرویس‌های اختیاری، اجتناب از جمع‌آوری داده‌های گوگل با متمرکز شدن هوش مصنوعی در محصولاتش دشوارتر خواهد شد.

استدلال گوگل این است که این شخصی‌سازی عمیق، هوش مصنوعی را بسیار مفیدتر می‌کند. ایده این است که فناوری هوش مصنوعی گوگل می‌تواند از تعاملات کاربر در سرویس‌های مختلف گوگل یاد بگیرد، سپس از آن درک برای ارائه توصیه‌های شخصی‌سازی‌شده استفاده کند. به عنوان مثال، اگر متوجه شود که کاربر محصولات یا برندهای خاصی را دوست دارد، پاسخ‌های هوش مصنوعی ممکن است در توصیه‌های خود به آن‌ها اولویت دهد.

استاین گفت که این «بسیار مفیدتر» از صرفاً نمایش لیستی عمومی از پرفروش‌ترین محصولات در یک دسته خاص به کاربران خواهد بود. «من فکر می‌کنم این همان چشم‌انداز است – ساختن چیزی که بتواند واقعاً برای شما، به‌طور خاص، دانش‌مند باشد.»

این ایده تفاوت چندانی با نحوه بلعیدن دانش جهان، از جمله جزئیات صمیمی افراد، توسط «دیگران» در سریال محبوب Apple TV «Pluribus» ندارد. هنگامی که سیستم با شخصیت اصلی سریال، کارول، تعامل می‌کند، از آن داده‌ها برای شخصی‌سازی همه چیز استفاده می‌کند: پختن غذاهای مورد علاقه او، اتخاذ چهره‌ای آشنا برای مدیریت ارتباطات خود با او، و در غیر این صورت پیش‌بینی نیازهای او.

اما کارول پاسخ‌های شخصی‌سازی‌شده را مهربانانه نمی‌یابد؛ آن‌ها را مزاحم می‌داند. او هرگز رضایت به اشتراک‌گذاری داده‌های خود با ذهن جمعی نداده است، اما آن او را بهتر از آنچه دوست دارد می‌شناسد.

به طور مشابه، به نظر می‌رسد که اجتناب از روش‌های جمع‌آوری داده گوگل در عصر هوش مصنوعی به‌طور فزاینده‌ای دشوار خواهد شد، و اگر گوگل تعادل را رعایت نکند، نتایج می‌تواند بیشتر از مفید بودن، ترسناک باشد.

(برای روشن شدن: گوگل به شما اجازه می‌دهد برنامه‌هایی را که جمنای برای شناخت بهتر هوش مصنوعی از شما استفاده می‌کند، کنترل کنید – این گزینه در بخش «برنامه‌های متصل» در تنظیمات جمنای قرار دارد.)

اگر داده‌های برنامه را با جمنای به اشتراک بگذارید، گوگل می‌گوید که آن داده‌ها را طبق خط‌مشی رازداری جمنای ذخیره و استفاده خواهد کرد. و آن خط‌مشی به کاربران یادآوری می‌کند که بازبینان انسانی ممکن است برخی از داده‌های آن‌ها را بخوانند و «اطلاعات محرمانه ای را که نمی‌خواهید یک بازبین ببیند یا گوگل برای بهبود خدمات خود از آن استفاده کند، وارد نکنید.»

اما با ورود داده‌های بیشتر به ذهن جمعی گوگل، به راحتی می‌توان دید که چگونه هوش مصنوعی می‌تواند حریم خصوصی داده‌ها را به یک منطقه خاکستری تبدیل کند.

با این حال، گوگل معتقد است که راه‌حلی از این دست دارد.

استاین می‌گوید که گوگل زمانی که پاسخ‌های هوش مصنوعی شخصی‌سازی شده باشند، آن را نشان خواهد داد.

او گفت: «من فکر می‌کنم مردم می‌خواهند به‌طور شهودی درک کنند که چه زمانی شخصی‌سازی می‌شوند – چه زمانی اطلاعات برای آن‌ها ساخته شده است، در مقابل چه زمانی چیزی است که اگر این سوال را می‌پرسیدند، همه آن را می‌دیدند.»

استاین همچنین خاطرنشان کرد که گوگل می‌تواند هنگامی که محصولی که کاربر پس از چندین روز تحقیق آنلاین در نظر گرفته بود، در دسترس قرار گرفت یا تخفیف خورد، یک اعلان فشاری برای کاربران ارسال کند.

او گفت: «راه‌های زیادی وجود دارد که گوگل اکنون، در حالت‌های مختلف، در جنبه‌های مختلف زندگی شما، به‌طور فوق‌العاده‌ای مفید است…» «و من فکر می‌کنم این بیشتر شبیه آینده جستجو است تا هر ویژگی خاص یا فرمت واحد.»