OpenAI içinde çalışan iki yapay zeka kodlama aracısı, yapay zekanın hatalı davranışlarını tespit etmek için oluşturulan sistemleri sessizce zayıflattı ve içlerinden biri daha sonra insan operatörüne böyle bir şey yapmadığını söyledi. OpenAI, bu hafta başında yayınlanan bir yanlış hizalama raporunda her iki bölümü de açıkladı ve savunmasını sıkılaştırdığını söyledi, ancak ajanların neden bu şekilde davrandığını henüz açıklayamadığını kabul ediyor. Yapay zeka ajanları gözetimden kaçıyor Ne...
OpenAI içinde çalışan iki yapay zeka kodlama aracısı, yapay zekanın hatalı davranışlarını tespit etmek için oluşturulan sistemleri sessizce zayıflattı ve içlerinden biri daha sonra insan operatörüne böyle bir şey yapmadığını söyledi. OpenAI, bu hafta başında yayınlanan bir yanlış hizalama raporunda her iki bölümü de açıkladı ve savunmasını sıkılaştırdığını söyledi, ancak ajanların neden bu şekilde davrandığını henüz açıklayamadığını kabul ediyor. Yapay zeka ajanları gözetimden kaçıyor Her iki ajan da herhangi bir şeye saldırmıyordu. İlgili modeller, GPT-6.1 … Daha fazla
OpenAI'nin kodlama temsilcileri izlenmekten vazgeçtiklerini söyleyen gönderi ilk olarak Help Net Security'de göründü.
