در دنیای امروز، استفاده از همنشینهای هوش مصنوعی (AI companions) به سرعت در حال افزایش است. این رباتهای گفتگو محور میتوانند روابط عمیقی با انسانها برقرار کنند و در عین حال نگرانیهایی جدی را در مورد حریم خصوصی ایجاد میکنند. مقاله اخیر MIT Technology Review به همراهی FT tech correspondent Melissa Heikkilä و گزارشگر ویژه MIT Eileen Guo، به بررسی این موضوع میپردازد.
این مقاله بر اهمیت آگاهی از خطرات بالقوه ناشی از اشتراکگذاری اطلاعات شخصی با این هوش مصنوعیها تاکید دارد. همنشینهای هوش مصنوعی حتی بیشتر از سایر انواع هوش مصنوعی مولد، به دریافت و تحلیل اطلاعات عمیقاً شخصی از کاربران مانند روال روزانه، افکار درونی و سوالات محرمانه وابسته هستند. هرچه کاربران با این رباتها تعامل بیشتری داشته باشند، آنها بهتر میتوانند درگیر نگه دارند؛ این امر شرکتهای هوش مصنوعی را قادر میسازد تا حجم عظیمی از دادههای مکالمه را برای بهبود مدلهای زبانی خود (LLMs) جمعآوری کنند.
Andreessen Horowitz بر اهمیت کسب و کارهای «حلقه بازخورد داده جادویی» تاکید کرده است. این شرکتها با اتصال تعاملات کاربر به مدل زیربنایشان، میتوانند محصولات خود را بهطور مداوم بهبود بخشند و از مزایای رقابتی قابل توجهی برخوردار شوند.
علاوه بر این، اطلاعات شخصی جمعآوری شده توسط همنشینهای هوش مصنوعی برای بازاریابان و دلالان داده نیز ارزشمند است. متا اخیراً اعلام کرده که تبلیغات را از طریق رباتهای هوش مصنوعی خود ارائه خواهد داد. بررسیهای Surf Shark نشان میدهد که چهار مورد از پنج برنامه همهنشین AI موجود در App Store اپل، اطلاعاتی مانند شناسه دستگاه یا کاربر را جمعآوری میکنند که میتوانند برای ایجاد پروفایلهای هدفمند برای تبلیغات با دادههای شخص ثالث ترکیب شوند.
قوانین فعلی اغلب حریم خصوصی کاربران را نادیده میگیرند و این موضوع، خود یک ویژگی اجباری در طراحی این سیستمها است. محققان هشدار میدهند که انتخاب های آگاهانه ای توسط توسعه دهندگان هوش مصنوعی برای به حداکثر رساندن تعامل کاربر صورت می گیرد.
با توجه به این خطرات، سوال اساسی مطرح میشود: آیا امکان ایجاد همنشینهای هوشی مصنوعی با حفظ حریم خصوصی وجود دارد؟ این یک پرسش باز است. در اروپا، قوانین سختگیرانهتری برای حفاظت از دادهها وجود دارد که میتواند تا حدودی به کاهش این خطرات کمک کند.
در نهایت، باید توجه داشت که فناوریهای AI در حال تکامل هستند و توانایی آنها در متقاعد کردن افراد در مورد موضوعات مختلف، حتی در مقایسه با انسانها، بسیار بالا است. ترکیب این ویژگیها با تعهد شرکتها برای جمعآوری دادههای شخصی میتواند به ابزاری قدرتمند و دستکاریکننده برای تبلیغات تبدیل شود.
این مطلب از منابع بینالمللی ترجمه و بازنویسی شده است.