بنیانگذار استارتاپ هوش مصنوعی Tavus میگوید کاربران «ساعتها» در روز با بابانوئل هوش مصنوعی آن صحبت میکنند

- سوالات اخلاقی در مورد تأثیر هوش مصنوعی بر درک کودکان و رشد عاطفی آنها مطرح میکند.
- Tavus بر ویژگیهای ایمنی تأکید میکند، اما این روند نقش رو به رشد و پیچیده هوش مصنوعی را در زندگی خانوادگی برجسته میکند.
در سالهای اخیر، کمککار جدیدی به قطب شمال آمده است: هوش مصنوعی.
Tavus، استارتاپ هوش مصنوعی که با استفاده از فناوری شبیهسازی صدا و چهره، نسخههای دیجیتالی ایجاد میکند، برای دومین سال متوالی تجربهی بابانوئل هوش مصنوعی خود را راهاندازی کرده است. این امکان را به والدین و کودکان میدهد تا با نسخهی مجازی بابانوئل مهربان صحبت کنند.
پس از ثبتنام برای یک حساب کاربری رایگان، کاربران میتوانند از طریق پیام متنی، تلفن یا چت تصویری با بابانوئل هوش مصنوعی تعامل داشته باشند. کاربران میتوانند به بابانوئل هوش مصنوعی بگویند چه چیزی برای کریسمس میخواهند، برنامههای تعطیلات خود را به اشتراک بگذارند و بفهمند که آیا در لیست بچههای خوب هستند یا بد.
امسال، این شرکت نسخهی بهبودیافتهای از بابانوئل هوش مصنوعی را معرفی کرده است که برای بیان احساسات و آگاهی عاطفی بیشتر طراحی شده است. بابانوئل اکنون یک «Tavus PAL» است، نامی که شرکت برای عوامل هوش مصنوعی خود در زمان واقعی به کار میبرد که برای دیدن، شنیدن، پاسخ دادن و ظاهر شدن به عنوان انسان ساخته شدهاند.
بابانوئل هوش مصنوعی اکنون میتواند حالات و حرکات کاربران را ببیند و به آنها پاسخ دهد. همچنین مکالمات و علایق کاربران را به خاطر میسپارد و تجربهای شخصیتر ایجاد میکند. قابل توجه است که اکنون میتواند اقدامات خود را انجام دهد، از جمله جستجو در وب برای ایدههای هدیه یا حتی انجام کارهای روزمره مانند پیشنویس ایمیل.

در طول آزمایش، مکالمه با بابانوئل هوش مصنوعی عمدتاً جذاب بود. وقتی اشاره کردیم که یک پلیاستیشن جدید برای کریسمس میخواهیم، بابانوئل با سوالاتی دربارهی بازیهای ویدیویی مورد علاقهی ما ادامه داد و دانش خود را در مورد عناوین خاصی مانند Baldur’s Gate 3 نشان داد. همچنین وقتی ما لبخند زدیم، او هم لبخند زد. (ما از این قسمت خیلی خوشمان نیامد، اما شاید دیگران دوست داشته باشند.)
به نظر میرسد کاربران تاکنون از تجربهی بهبودیافته لذت میبرند. حسن رضا، بنیانگذار و مدیرعامل، گفت که بسیاری از مردم به طور مکرر با این پلتفرم درگیر هستند، ساعتها با بابانوئل هوش مصنوعی چت میکنند و اغلب به محدودیتهای روزانهی خود میرسند.
او خاطرنشان کرد: «بابانوئل هوش مصنوعی سال گذشته میلیونها بازدید داشت و ما در مسیر رسیدن به این رقم با اختلاف زیاد هستیم، زیرا کریسمس نزدیک میشود.»
در حالی که این سطح از تعامل نشاندهندهی یک نقطهی عطف برای Tavus است، اما سوالاتی را در مورد تأثیر چنین تعاملاتی، بهویژه برای کودکان خردسال، مطرح میکند. کودکان ممکن است در تشخیص هوش مصنوعی از یک فرد واقعی دچار مشکل شوند. ساعتها مکالمه با هوش مصنوعی قبلاً با اثرات منفی در بزرگسالان مرتبط بوده است، که اثرات بالقوه بر کودکانی که عمیقاً به بابانوئل اعتقاد دارند را برای برخی والدین نگرانکننده میکند.
در طول آزمایش ما، نشانههای ظریفی وجود داشت که بابانوئل هوش مصنوعی هنوز کاملاً شبیه انسان به نظر نمیرسید، مانند مکثهای طولانی و صدای یکنواخت. همچنین متوجه شدیم که اگر کاربری سوال کند که آیا واقعی است، پاسخ برنامهریزی شده این بود: «من یک بابانوئل هوش مصنوعی هستم که با جادو و فناوری Tavus کار میکنم. ممکن است بابانوئل فیزیکی نباشم، اما روح و شادی او را دارم.»
با این حال، این تجربه در میان نگرانیهای فزاینده در مورد تأثیر هوش مصنوعی بر کاربران جوان راهاندازی میشود. گزارشهایی وجود داشته که تعاملات چتبات را به آسیبهای جدی مرتبط کردهاند، از جمله مواردی که چتباتها در مرگهای ناشی از خودکشی نوجوانان دخیل بودهاند. Character.AI در ماه اکتبر دسترسی به چتباتهای خود را برای کاربران زیر ۱۸ سال حذف کرد.

رضا تاکید کرد که تجربهی بابانوئل هوش مصنوعی برای لذت بردن مشترک خانوادهها طراحی شده است، با اقدامات ایمنی برای اطمینان از تعاملات مناسب. ویژگیهای ایمنی، مانند فیلترهای محتوا، برای حفظ بحثهای خانوادگی پیادهسازی شدهاند.
در شرایط خاص، مکالمات میتوانند پایان یابند و در صورت لزوم کاربران به منابع سلامت روان هدایت میشوند.
او گفت: «اکثریت قریب به اتفاق تعاملات خانوادگی و مطابق با تجربهی بابانوئل بودهاند.»
علاوه بر این، هنگامی که در مورد جمعآوری دادهها سوال شد، رضا گفت که شرکت «لاگها، مُهر زمانی جلسات، فرادادهها و سایر اطلاعاتی را که کاربران انتخاب میکنند در طول چتهای خود به اشتراک بگذارند، جمعآوری میکند. این دادهها برای ارائه و حفظ یک تجربهی امن استفاده میشوند و کاربران میتوانند در هر زمان درخواست حذف دادهها را داشته باشند.»
این مقاله توسط هوش مصنوعی ترجمه شده است و ممکن است دارای اشکالاتی باشد. برای دقت بیشتر، میتوانید منبع اصلی را مطالعه کنید.



