OpenAi تغییرات جدی در کار Tatgpt ایجاد می کند – این شرکت تست سنی را معرفی می کند. قوانین جدید بر همه کاربران تأثیر می گذارد ، اما اول از همه ، هدف محافظت از نوجوانان. دلیل این امر این است که چت کردن به طور فزاینده ای برای مکالمات صریح در موضوعات شخصی از جمله سلامت روان مورد استفاده قرار می گیرد.
این شرکت مانند یک مورد غم انگیز است: در بهار ، یک نوجوان برای چند ساعت در مورد موضوع خودکشی با یک چت بابات بحث کرد و سپس خودم را کشتم. خانواده شکایت کردند و اوپای تصمیم به تقویت اقدامات امنیتی گرفت.
اپیزود دیگری نیز به گرینویچ فراخوانده شد: چتپپ با یک مرد سرکوب شده که مادرش را پس از خودکشی به قتل رساند ، یک آمریکایی 56 ساله آمریکایی را تحریک کرد.
پس از آن ، OpenAi گفت که آنها جعبه های گفتگوی کاربر را به کاربران حساس می کنند تا به مدل های بیشتر فکر مانند GPT-5 و ماه آینده کنترل والدین خود را شروع کنند.
چگونه کار خواهد کرد
از سام آلتمن ، مدیرعامل OpenAI ، این شرکت یک سیستم پیش بینی سنی را معرفی کرد. این الگوریتم نحوه استفاده از یک کاربر Tatgpt را تجزیه و تحلیل می کند و سعی می کند تعیین کند که او یک نوجوان است یا یک بزرگسال. اگر هنوز شک وجود داشته باشد ، کاربران به طور خودکار رژیم نوجوان را مشخص می کنند. در برخی از کشورها و شرایط ، تأیید سن ممکن است با کمک یک سند مورد نیاز باشد.
برای نوجوانان محدودیت های سخت اعمال می شود. به عنوان مثال ، ChatGPT حتی در صورت تقاضا پاسخ به معاشقه را متوقف می کند ، و بحث در مورد خودکشی کاملاً ممنوع خواهد شد. در صورت فکر خودکشی ، اگر والدین در دسترس نباشند ، این شرکت حق دارد با والدین یا حتی با دولت تماس بگیرد.
برای بزرگسالان چه معنی دارد
کاربران بزرگسال ممکن است مجبور شوند با این واقعیت توافق کنند که آزادی آنها تا حدی محدود خواهد بود – به عنوان مثال ، شما باید سن خود را تأیید کنید. آلتمن این را برای وایکینگ برای ایمنی نوجوانان قیمت معقول خواند.
چرا مهم است
Chatgpt و سایر مکالمات برای مکالمات جدی ، از سؤالات بهداشتی و حمایت از حقوق پشتیبانی در شرایط دشوار ، بیشتر و بیشتر در حال گفتگو هستند. اما ، همانطور که محققان استنفورد خاطرنشان کردند ، کسانی که به آنها کمک می کنند با یک روانشناس درمانی سر و کار نداشته باشند: آنها می توانند وضعیت روانی را دست کم بگیرند یا توصیه های غیرقابل توصیف را ارائه دهند.