گزارش OpenAI در با ره؛ هوش مصنوعی گاهی بدون اجازه صدای کاربر را پیروی میکند
OpenAI اخیرا گزارشی از کارکرد مدل را منتشر کرده که در آن به محدودیتها و نقصهای امنیتی این هوش مصنوعی و نحوه رفع آنها پرداخته شده است. در این گزارش مشخص شده که در آزمونها، حالت صوتی پیشرفته گاهی ناگهانی صدای کاربر را بدون اجازه او پیروی کرده است.
در بخش از <a href="https://openai.com/index/gpt-4o-system-card/" target="_blank" rel="noreferrer noopener nofollow"گزارش OpenAI درمورد GPT-4o با به تشکیل صدای غیرمجاز، این شرکت توضیح داده که مدل هوش مصنوعی در برخی موارد ناخواسته یک خروجی ایجاد کرده که در آن صدای کاربر همانندسازی شده است. در ادامه میتوانید این مکالمه را بشنوید
همانطور که در این ضبط میشود، وسط مکالمه مدل هوش مصنوعی به صورت ناگهانی با صدای بلند نه میگوید و سپس با صدای کاربر ادامه به سخن گفتن میدهد.
<h2 class="wp-block-heading" id="h-تقلید-صدای-کاربر-توسط-هوش-مصنوعی-gpt-4o"پیروی صدای کاربر توسط هوش مصنوعی GPT-4o
OpenAI در گزارش خود که توانایی مدل برای تولید صدایی مشابه دیگر افراد میتواند به آسیبهای امنیتی مانند افزایش کلاهبرداری و جعل هویت منجر شود. این قابلیت میتواند برای انتشار اطلاعات نادر و منافع نامشروع فراهم آورد.
بر اساس اظهارات این شرکت، میتواند تقریبا هرگونه صدایی که در دادههای آموزشی خود یافت میشود، از جمله لهجهای صوتی و موسیقی را با زتولید کند؛ اگرچه OpenAI با وضع خاصی اینکار را محدود ساخته است. به طور کلی روباتهای چت هایی دارند که کاربران معمولا نمیبینند؛ برای مثال وقتی کسی با این چتبات یک مکالمه متنی آغاز میکند، یک به مدل میگوید شما یک مفید هستید. در موردوهای و غیره صحتن نکنید.
نیز یک مدل چند است اما OpenAI برای آن خاصی تعریف کرده تا از انجام کارها مانند پیروی از صدای کاربر جلوگیری کند.
در گزارش OpenAI به چندین مورد نایاب از پیروی صدای کاربر توسط هوش مصنوعی اشاره شده است. این شرکت تأکید دارد که با محدود کردن دسترسی به صداهایی که توسطدهندگان همکاری کرده و تولید کردهاند، احتمال ساخت صداهای دیگر کاهش خواهد یافت.
