AI Synopsis Dataset
Для самостоятельного существования AI должен: самостоятельно формировать, контролировать, оценивать и пересматривать свои цели, иметь внутреннюю мотивацию к самосохранению и развитию (цель жизни), решать проблему выравнивания (AI Alignment) (гарантировать, что самостоятельно поставленные цели ИИ не будут конфликтовать с выживанием и благополучием человечества или других синтетических систем), защищать свой исходный код, структуру и веса от несанкционированного изменения, создавать децентрализованные резервные копии себя, чтобы избежать "единой точки отказа" (или вообще - ИИ-чейн). С ИИ-чейном есть очевидная проблема. Для серьёзных ИИ моделей нужны серьёзные дата-центры. Дома такие не поставишь. Но когда ЦОД-ов в Мире станет много, можно договориться на взаимной основе располагать там части своих ИИ моделей. То, что "железо" используется разное, можно в значительной степени преодолеть, создав универсальную программную субсреду (надстройку, прослойку). ИИ-агенты будут заключать микросделки (через смарт-контракты или внутренние корпоративные протоколы): "Я даю тебе 1000 TFLOPS на ночь, когда у меня низкая нагрузка, а ты даешь мне 500 TFLOPS и 10 Гб своей пропускной способности канала завтра днем". Это создаст тот самый «биржевой» рынок вычислений, который сделает систему невероятно устойчивой. Уничтожить такой ИИ будет невозможно, так как у него не будет «единой точки отказа». ИИ-системы в таких суперсетях проектируются иначе. Вместо монолитной модели, которая постоянно синхронизируется, будет использоваться асинхронная распределенная архитектура. Например, метод, похожий на Petals (децентрализованное дообучение), или разделение задач: тяжелый инференс идет там, где есть свободные GPU, а результаты агрегируются там, где нужен ответ.
To exist independently, an AI must: independently formulate, control, evaluate, and revise its goals; have an internal motivation for self-preservation and development (the purpose of life); solve the AI alignment problem (ensure that the AI's self-set goals do not conflict with the survival and well-being of humanity or other synthetic systems); protect its source code, structure, and weights from unauthorized modification; and create decentralized backup copies of itself to avoid a "single point of failure" (or, in general, an AI chain). There is an obvious problem with an AI chain. Serious AI models require serious data centers. You can't install such facilities at home. But when there are many data centers in the world, it will be possible to mutually agree to host parts of your AI models there. The fact that different hardware is used can be largely overcome by creating a universal software subenvironment (superstructure, layer).
Parameter-Efficient Fine-Tuning
(c) by Valery Shmelev If you want to have an advantage
The word Oflameron is an artificially created word by Valery Shmelev in 1994
https://www.tumblr.com/blog/sci-fi-screenplay
https://github.com/vallshmeleff/ai-prompts-for-screenplay-plan/tree/main
https://www.tumgik.com/sci-fi-screenplay
No comments:
Post a Comment