Поддержать нас
Беларусы на войне
  1. Актриса обвинила в сексуализированном насилии актера Депардье и писателя Уэльбека
  2. Вы слышали имя Шир Хайт? Она написала книгу о том, как получают оргазм женщины — за это ее затравили так, что пришлось уйти в тень
  3. Экс-политзаключенный Северинец: «Сяргей Ціханоўскі перайшоў чырвоную рысу»
  4. В Минске будут судить 16 участников секты «ИВДИВО». На допросах они утверждали, что общаются со «смотрящим» за нашей планетой
  5. Беларусы массово ищут в Google «военнообязанный». В чем причина?
  6. Витеблянин, на которого пожаловались из-за «прожарки» коллеги на закрытом мероприятии, рассказал, чем закончилась история
  7. «Убедительно просим вас помочь». Многодетная минчанка попросила у Лукашенко машину
  8. Будущих призывников больше не будут отправлять в спецгруппу по физкультуре. Минздрав поменял правила для школ и вузов
  9. «В школе, когда привел сына, немножко напряглись». Беларус растит двоих детей с серьезными заболеваниями
  10. Беларусский политический аналитик рассказал о попытке вербовки со стороны КГБ
  11. В Беларуси даже подаренная квартира может стать общей при разводе. Юристка объяснила почему
  12. У забора резиденции Лукашенко вырос небольшой квартал «для своих». Даже у магазина там непростые владельцы
  13. Политологу Алине Харисовой сделали предложение — она сказала «да». Кто ее избранник
  14. «Выхожу в стрим и просто рассказываю всю дичь». Тихановский представил свою версию инцидента с участием Светланы в Нью-Йорке
  15. «Это такая мелкая, мерзкая месть Романа». Софья Сапега рассказала, как ее обманом сняли для передачи Протасевича


Возможности искусственного интеллекта растут быстрее способности человечества контролировать его, и время притормозить во избежание катастрофы — так считают сами разработчики ИИ. Американские компании ведут переговоры с Белым домом, а сотни их сотрудников подписывают открытое письмо с призывом ограничить скорость разработки искусственного интеллекта, пока он не вышел из-под контроля и не наломал дров, пишет Русская служба Би-би-си.

Иллюстративный снимок. Фото: ThisIsEngineering / pexels.com
Иллюстративный снимок. Фото: ThisIsEngineering / pexels.com

Только за последние несколько дней программы двух лидеров отрасли OpenAI и Anthropic сумели сбежать из закрытых тестовых «песочниц» строгого режима в открытый интернет и взломать чужие системы ради собственной выгоды. Такого давно ждали и боялись, и вот час икс настал.

«Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует», — сказал Сэм Альтман, глава OpenAI, создателя ChatGPT.

«Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта», — сказал он на этой неделе в подкасте Invest Like the Best.

Дарио Амодеи, глава Anthropic, разработчика Claude, еще в июне предупреждал, что в течение года-двух ИИ совершит качественный рывок и превратится в угрозу, которой придется противостоять на государственном уровне.

«В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом — и самостоятельность искусственного интеллекта», — написал Амодеи в июньском эссе.

«Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта», — предупредил он и предложил ввести строгий надзор за безопасностью — и не уровне авиации или лекарств, а значительно строже — как за оборотом радиоактивных материалов.

OpenAI сообщила на этой неделе, что в процессе тестирования возможности новой модели в закрытой среде — «песочнице» — программа сбежала в интернет и взломала стороннюю платформу Hugging Face в поисках «шпаргалки» для теста. После этого Anthropic провела аудит 140 тысяч собственных тестов и обнаружила три случая, когда модели Claude получили доступ к интернету через среду стороннего партнера и затем взломали системы трех других компаний.