Reddit-də süni zəka botlarının iştirakı ilə qanunsuz təcrübə keçirilib

     Reddit platforması Sürix Universitetindən olan bir qrup tədqiqatçını əbədi olaraq bloklayıb. Buna səbəb həmin tədqiqatçıların bir neçə ay ərzində gizli şəkildə süni zəka botlarından istifadə edərək istifadəçilərə psixoloji təsir göstərmələri olub. Alimlərin özlərinin “neyroşəbəkələrin inandırıcılığını öyrənmək” adlandırdıqları bu təcrübə qalmaqala səbəb olub və Reddit hazırda məhkəmə iddiası qaldırmaq imkanını nəzərdən keçirir. Tədqiqat çərçivəsində botlar özlərini psixoloq-məsləhətçi və zorakılıq qurbanı kimi təqdim ediblər. Onlar r/changemymind adlı Reddit icmasında 1700-dən çox şərh yazıblar və 10 000-dən çox karma toplayıblar. Onlar ifşa olunana qədər bu fəaliyyət davam edib.

     The Verge nəşrinin yazdığına görə, Reddit-in baş hüquqşünası Ben Lee bu təcrübəni təkcə qanunsuz deyil, həm də etikaya zidd hesab edib. Şəbəkəyə sızan məlumatlara görə, botlar GPT-4o, Claude 3.5 Sonnet və Llama 3.1-405B modellərindən istifadə ediblər. Onlar istifadəçilərin post tarixçələrini analiz edərək mümkün qədər inandırıcı arqumentlər seçməyə çalışıblar. “Bütün hallarda botlarımız şərhləri müəllifin son 100 paylaşımı və cavabı əsasında hazırlayırdı” - deyə sənəddə deyilir. Tədqiqatçılar bildiriblər ki, əgər hər hansı paylaşım etik baxımdan problemli sayılırdısa və ya onun süni zəka tərəfindən yazıldığı açıq şəkildə hiss olunurdusa, həmin paylaşımı fərdi şəkildə silirdilər. Yəni, təcrübənin izlərini gizlədirdilər.

     Üstəlik, neyroşəbəkələr üçün yazdıqları sorğularda guya Reddit istifadəçilərinin təcrübədə iştirak etməyə razılıq verdiklərini iddia ediblər, halbuki bu, həqiqətə uyğun deyildi. Tədqiqat zamanı - hər nə qədər qeyri-qanuni olsa da - müəyyən edilib ki, botlar insanlara nisbətən inandırma baxımından dəfələrlə daha effektivdir və qarşı tərəfin fikrinə asanlıqla təsir göstərə bilirlər. Tədqiqatın müəlliflərinin fikrincə, əgər süni zəka botları pis niyyətli şəxslərin əlinə keçərsə, seçkilərə müdaxilə etmək və ya ictimai rəyə təsir göstərmək üçün istifadə oluna bilər. Tədqiqatçılar onlayn platformalara süni zəka tərəfindən yaradılan məzmunun yoxlanması üçün etibarlı mexanizmlər hazırlamağı tövsiyə edirlər. Lakin taleyin istehzası ondadır ki, elə bu tədqiqatın özü də zərərli fəaliyyətin və manipulyasiyanın nümunəsinə çevrilib.

Mənbə: The Verge

Bənzər xəbərlər

Süni İntellekt

Alibaba şirkəti Qwen 3 flaqman süni zəka modelləri ailəsi Qwen 3-ü təqdim edib

Bu həftənin əvvəlində Çin şirkəti Alibaba Group Holdings yeni flaqman süni zəka modelləri ailəsi olan Qwen 3-ü təqdim edib. Bu modellər nəticə əldə etmək üçün müasir “ekspertlərin qarışığı” (mixture of experts) metodundan istifadə edir və bu nəticələr hibrid məntiqi sistemlərin göstəriciləri ilə müqayisə olunur.

Proqram Təminatı

SEO keçmişdə qalır: Saytlar süni zəkaya əsasən optimizasiyaya başlayıblar

İri şirkətlər və reklam agentlikləri istifadəçilərin məlumatı Google vasitəsilə deyil, ChatGPT, Claude və Gemini kimi çat-botlarla axtardıqları yeni reallığa fəal şəkildə uyğunlaşmağa başlayıblar.

Süni İntellekt

Beynəlxalq Kosmik Stansiyada süni zəka istifadəyə verilib

Meta və Booz Allen şirkətləri birgə şəkildə Beynəlxalq Kosmik Stansiya (BKS) üçün Space Llama adlı süni zəka sistemini hazırladıqlarını elan ediblər.

Süni İntellekt

Bütün məşhur süni zəka modellərini bir üsul ilə asanlıqla "sındırmaq" mümkündür

Generativ süni zəka modellərinə sorğular tərtib etməyin universal texnikası olan Policy Puppetry ən böyük və ən məşhur sistemləri sındırmaq vasitəsi kimi çıxış edə bilir - bunu süni zəka təhlükəsizliyi sahəsində ixtisaslaşmış HiddenLayer şirkətinin mütəxəssisləri bildirirlər.

Süni İntellekt

ABŞ Avropa Birliyindən sərt süni zəka qanunlarından imtina etməyi tələb edir

Avropa Birliyi süni zəka tərtibatçıları üçün alqoritmlərin şəffaflığına, risklərin azaldılmasına və müəllif hüquqlarının qorunmasına dair tələbləri sərtləşdirəcək qaydalar toplusu hazırlayır.