OpenAI го менува однесувањето на ChatGPT за да го намали автоматското согласување со корисниците, особено кога тие изнесуваат погрешни претпоставки, неосновани уверувања или покажуваат знаци на емоционална вознемиреност. Поновите модели покажуваат напредок во тестирањата, но ризиците сè уште не се целосно отстранети. Проблемот, познат како „sycophancy“,
OpenAI го менува однесувањето на ChatGPT за да го намали автоматското согласување со корисниците, особено кога тие изнесуваат погрешни претпоставки, неосновани уверувања или покажуваат знаци на емоционална вознемиреност. Поновите модели покажуваат напредок во тестирањата, но ризиците сè уште не се целосно отстранети. Проблемот, познат како „sycophancy“,
ChatGPT сè поретко им се согласува на корисниците, додека OpenAI воведува построги безбедносни критериуми и нови модели кои почесто даваат пореални одговори ChatGPT долго време се соочуваше со проблемот на прекумерно согласување со корисниците, бидејќи системот често ги потврдуваше нивните тврдења наместо да понуди пореален одговор или да укаже на