Claude çat-botu istifadəçinin zərərli və ya təhqiramiz dialoqlarını avtomatik olaraq dayandıracaq

     Anthropic öz çat-botu Claude AI-ya “zərərli və ya təhqiramiz” hesab etdiyi ünsiyyətləri dayandırmağı öyrədib. Bu imkan artıq Opus 4 və 4.1 modellərində mövcuddur. Bu funksiya Claude-un istifadəçinin dəfələrlə zərərli və ya təhqiramiz məzmun yaratmağa cəhd etməsindən sonra son tədbir olaraq söhbəti sonlandırmasına imkan verir. Anthropic süni intellekt modellərinin “potensial rifahını” qorumaq məqsədilə Claude-un açıq şəkildə “narahatlıq” hiss etdiyi dialoqları dayandırmaq istədiyini bildirir. Claude-un söhbəti dayandırmasından sonra istifadəçi həmin söhbətdə yeni mesaj göndərə bilməyəcək, lakin yeni söhbətlər yaratmaq imkanı açıq qalacaq.

     Anthropic qeyd edib ki, bu cür reaksiyaya səbəb olan söhbətlər “istisna hallardır” və əlavə edib ki, əksər istifadəçilər hətta mübahisəli mövzular haqqında danışsalar belə, bu məhdudiyyətlə qarşılaşmayacaqlar. Claude Opus 4-ün testləri zamanı çat-botun “zərər verməyə qarşı davamlı və ardıcıl ikrah hissi” nümayiş etdirdiyi müşahidə olunub. Bu, xüsusilə yetkinlik yaşına çatmayanların iştirakı ilə seksual məzmunun yaradılması, zorakılıq və terrorizm hallarına aiddir. Anthropic-in məlumatına görə, bu kimi hallarda Claude “aydın narahatlıq” göstərmiş və “zərərli söhbətləri dayandırmağa meyilli olmuşdur - əgər ona bu imkan verilmişdisə”.

     Eyni zamanda Claude-a birbaşa göstəriş verilib ki, əgər istifadəçi özünə və ya başqalarına “qaçılmaz zərər” vermək niyyəti göstərirsə, bu zaman söhbəti dayandırmasın. Bu cür hallarda Anthropic, özünə zərər və psixi sağlamlıqla bağlı sorğulara cavab hazırlamaq üçün Throughline adlı onlayn böhran dəstək xidmətindən istifadə edir. Ötən həftə Anthropic, süni intellekt modellərinin sürətlə inkişaf etməsi fonunda artan təhlükəsizlik narahatlıqları səbəbindən öz çat-botunun istifadəsi ilə bağlı siyasətini yeniləyib. Artıq şirkət Claude-un bioloji, nüvə, kimyəvi və ya radioloji silahların hazırlanması, zərərli kodların yaradılması və ya şəbəkə boşluqlarından istifadə məqsədilə tətbiqini qadağan edir.

Bənzər xəbərlər

Tech-Biznes

Korporativ müştərilər GPT-5-dən məmnundurlar

Sam Altman və ChatGPT, OpenAI şirkətini təkcə süni intellekt sahəsində dünya liderinə çevirməklə kifayətlənməyib, həm də onu mədəni bir fenomen halına gətirib. Məlumata görə, korporativ müştərilər arasında tanınma və qəbul qazanmaqla uğurun həqiqi monetizasiyasına çatmaq üçün təxminən 3 il vaxt tələb olunub.

Süni İntellekt

Anthropic süni intellekt mütəxəssisləri mövzusunda lider şirkətdir

Meta və OpenAI kimi texnologiya nəhəngləri arasında süni intellekt sahəsində ən yaxşı mütəxəssislər uğrunda mübarizə yeni zirvələrə çatıb. Lakin məlum olub ki, bir çox mühəndislər Claude modellərinin inkişafı ilə məşğul olan Anthropic şirkətində işləməyi üstün tuturlar.

Süni İntellekt

Anthropic şirkəti Claude Opus 4.1 süni intellekt modelini təqdim edib

Anthropic, süni intellekt agenti və proqram kodu yazmaq üçün nəzərdə tutulmuş Claude Opus 4.1 adlı yeni süni intellekt modelini təqdim edib.

Süni İntellekt

Süni intellekti arzuolunmaz hərəkətlərə meylli hala gətirə bilən amillər araşdırılıb

Anthropic şirkəti süni intellektin cavab üslubu, tonu və şəxsiyyətə xas olan ümumi davranış istiqamətinin necə formalaşdığını araşdıran bir tədqiqat təqdim edib. Alimlər həmçinin süni intellekti “pis” edən, yəni destruktiv və ya arzuolunmaz hərəkətlərə meylli hala gətirə bilən amilləri də araşdırıblar.

Proqram Təminatı

ChatGPT süni intellekt əsaslı botlar bazarının 70%-dən çoxunu ələ keçirib

Veb-analitika xidməti olan Statcounter, saytların ziyarətini izləyən və istifadəçi davranışını təhlil edən bir platforma olaraq, süni intellekt modellərinin - daha dəqiq desək, onlara əsaslanan çat-botların məşhurluğuna dair statistikanı dərc etməyə başlayıb.