arXiv:2609.22067ترجمه شده

وکالت حساس به ارزش در کاربرد روزمره آژانس‌های هوش مصنوعی: شواهد از OpenClaw

Renkai Ma، Ruyuan Wan، Xuan Lu، Fan Yang، Chen Chen، Lingyao Li

چکیده

کاربران به‌طور فزاینده‌ای وظایف خود را به عامل‌های خودکار هوش مصنوعی واگذار می‌کنند، هرچند ارزیابی‌ها معمولاً تکمیل وظیفه را اندازه‌گیری می‌کنند، نه ارزش‌هایی که کاربران اولویت می‌دهند. با استفاده از طراحی حساس به ارزش (Value Sensitive Design) و بهره‌گیری از مدل‌های زبانی بزرگ، ۷۳٬۰۹۳ پست اول شخص از ردیت درباره استفاده از OpenClaw را تحلیل کردیم؛ هر یک از آن‌ها را از نظر ارزش انسانی، جنبش عامل، تحقق ارزش، و نتیجه کاربری بررسی کردیم. این ۲۱ ارزش در شش گروه ارزشی شکل می‌گیرند، از جمله خودمحوری (Autonomous)، قابل اعتماد بودن (Dependable)، هزینه قابل تحمل عملیات (Affordable Operation)، دامنه محدود (Bounded Reach)، قابلیت بازنگری (Reviewability)، و دسترسی مساوی (Equitable Access). ارزش‌ها نه در خود عامل، بلکه در خروجی‌های آن جای می‌گیرند؛ به‌عبارر دیگر، سهم هر جنبش در مجموع متن، منعکس‌کننده ارزش‌هایی است که در خود خروجی‌های عامل یافت می‌شود. در مواردی که کاربران توصیف می‌کردند عامل چه چیزی تحویل داده است، در پنج از شش گروه، ارزش‌ها معمولاً برآورده می‌شدند؛ اما در مواردی که کاربران نظارت بر عامل را توصیف می‌کردند، در تمام شش گروه، ارزش‌ها عمدتاً برآورده نمی‌شدند. ما این الگو را «تخصیص حساس به ارزش» (Value-sensitive delegation) می‌نامیم. حمایت از ارزش‌های انسانی نه تنها به آنچه عامل انجام می‌دهد، بلکه به شرایطی که کاربران در آن‌ها واحد کاری را تنظیم می‌کنند — از جمله هزینه، دسترسی، و نظارت — نیازمند است.

متن کامل

User Safety: safe