Anthropic выигрывает решение об обучении ИИ в иске о нарушении авторских прав, но предстанет перед судом за пиратские книги

Очень важный юридический прецедент в области авторского права. TL;DR: обучение моделей на легально приобретённых материалах, защищённых копирайтом, признано добросовестным использованием (fair use). Создателям модели нужно позаботиться о том, чтобы её вывод был «квинтэссенциально трансформативным».

Нелегальное приобретение обучающих данных наказуемо, как и прежде.

Обычно я стараюсь подходить ко всяким новым блестящим штучкам с определенной долей скептицизма. Именно таким, до недавнего времени, было мое отношение к мультиагентным системам. Я бы сказал, что это неудивительно, так как вокруг них сейчас очень много шума, а по-настоящему успешных примеров такого подхода я не видел. Большинство реализаций, которые действительно работали, относились к одному из следующих видов:

1. Агентные системы, действующие по определенному плану. То есть LLM с инструментами, натасканные на автоматизацию вполне конкретного процесса. Благодаря этому, каждый шаг можно тестировать по отдельности и верифицировать его результаты. Описываются такие системы, как правило, в виде направленного ациклического графа (DAG), иногда динамического, и разрабатываются с помощью уже стандартных примитивов из фреймворков типа LangChain и Griptape. Так функционировала ранняя реализация Gemini Deep Research, в которой сначала составлялся план поиска, затем выполнялся сам поиск, и в конце собирался результат.
2. Решения, работающие в системах с обратной связью. Различные Claude Code, Cursor и прочие агенты, имеющие дело с кодом. Причем чем сильнее обратная связь, читай, чем лучше тулинг и строже проверка типов, тем больше шансов, что они окончательно не испортят вам кодовую базу.
3. Модели, обученные с помощью Reinforcement Learning, такие как модели с interleaved thinking, вроде OpenAI o3. Это отдельный разговор, и очень интересный, но даже такие модели имеют какой-то modus operandi, определенный особенностями их обучения.

При этом мультиагентные системы открытого типа ввиду их общей ненадежности до сих пор существовали в большей части в виде proof of concept. В сообществе не было понимания, где их применять и как именно их реализовывать. Пока не появилась глубокая инженерная статья от Anthropic о том, как они разрабатывали свой Deep Research. В ней был определен достаточно четкий фреймворк для построения таких систем, и именно его мы сегодня и рассмотрим.

Радиология с энтузиазмом приняла ИИ, и тем не менее занятость в ней продолжает расти. Эффект «дополнение вместо автоматизации» наблюдается при том, что, насколько я могу судить, не найдено ни одной конкретной «задачи», в которой радиологи-люди превосходили бы ИИ. Так что, возможно, модель «работа — это набор задач» из экономики труда неполна. […]

Можете ли вы разложить собственную работу на набор чётко определённых задач так, чтобы автоматизация каждой из них означала автоматизацию всей вашей работы целиком? Подозреваю, большинство ответит «нет». Но когда мы думаем о чужой работе, которую понимаем хуже своей, модель задач кажется правдоподобной, потому что мы не замечаем всех нюансов.

— Арвинд Нараянан

Тем не менее мой взгляд на это такой: полностью работы автоматизированы не будут, но один специалист сможет выполнять больше, так что всё сводится к классической проблеме спроса и предложения. Думаю, в большинстве областей спрос по-прежнему будет превышать предложение, хотя и не во всех. См. парадокс Джевонса.

Cato CTRL™ Threat Research: PoC-атака на Model Context Protocol (MCP) от Atlassian открывает новый класс рисков «Living off AI»

Очередная уязвимость MCP-сервера, на этот раз у Atlassian. Она позволяет провести prompt injection через внешние тикеты поддержки, давая атакующему возможность выкрадывать данные и устраивать хаос во внутренней системе.

Model Context Protocol, несмотря на агрессивное его внедрение (а возможно, и благодаря), продолжает развиваться. Недавно Anthropic обновил спецификацию MCP, и ниже мы рассмотрим основные изменения.

Усиление безопасности

MCP-сервер теперь всегда классифицируется как OAuth Resource Server, а клиенты обязаны реализовывать Resource Indicators (RFC 8707). Нужно это для защиты от атак типа Confused Deputy. Раньше токены, запрашиваемые клиентом у сервера авторизации были “обезличены”, то есть могли использоваться кем угодно. Это дает возможность злоумышленнику создать фишинговый MCP-сервер, обмануть клиента, украсть токен, и с помощью этого токена получить доступ к настоящему MCP-серверу.

Режим агента с поддержкой MCP-инструментов теперь общедоступен в Visual Studio

GitHub Copilot довёл поддержку Model Context Protocol в режиме агента до общей доступности. Привычные проблемы безопасности MCP усугубляются опцией «Always allow» при использовании инструментов.

Обновление потребительского биллинга GitHub Copilot

Безлимитному доступу к лучшим моделям всех ведущих провайдеров в GitHub Copilot Chat пришёл конец. Теперь безлимитны только GPT-4o и GPT-4.1.

Это ещё один шаг к глобальному пересмотру ценовых стратегий для продуктов на базе ИИ. Фаза агрессивного продвижения закончилась. ИИ становится ещё одной разновидностью коммунальной услуги, и стоит ожидать соответствующих стратегий.

https://eugeneyan.com/writing/writing-faq/

Этот FAQ о ведении блога местами перекликается с моей собственной мотивацией

ИИ делает гуманитарные науки важнее, но и заметно страннее

ИИ в образовании — палка о двух концах. Он помогает студентам списывать на традиционных заданиях, но одновременно служит мощным новым инструментом, способным по-настоящему их увлечь. Образованию придётся измениться, и я верю, что в итоге оно изменится к лучшему.

Академики обманывают себя насчёт ИИ

Если хотите покритиковать ИИ — делайте это как следует :)