Какие будут предложения?

Боюсь что от меня только одно - посмотреть в файл limits.conf грамотного 
человека, настроившего всё правильно.  
Настройки, думаю, должны быть приведены для настольной и серверной системы. 
У нас на терминальном сервере такое написано: 
*               soft    nproc   428 
*               hard    nproc   656 
*               soft    data    200000 
*               hard    data    250000 
*               soft    rss             320000 
*               hard    rss             450000 
@root           soft    nproc   256 
но это вариант точно не самый лучший. 

Это несерьёзно, даже самые общие настройки в limits.conf должны зависеть от
доступной памяти в системе.
Боюсь, что нет таких значений, которые подошли бы во всех случаях.
См. тж. #4263

Хочу заметить, что размер запускаемого OpenOffice не зависит от объёма памяти 
в системе. Ограничения можно ставить в расчёте на то, сколько памяти должна 
занять программа, а не сколько из свободной памяти ей отдать. 
 
Что такое доступная память? 
Вы предлагаете использовать ограничения в процентах? 
 
Я думаю, для часто используемых "тяжёлых" программ характеристики по памяти 
известны. Какое-то среднее по больнице вывести можно. 
 

Ограничения, исходящие из того, какие программы будут запущены, может установить
системный администратор (если у него есть такая информация).

Ограничения, исходящие из фактического объёма виртуальной памяти, имеет смысл
устанавливать более автоматизированным способом, дабы уберечь систему от
нерадивых пользователей.

Конечно имеет смысл, но limits.conf умеет только абсолютными значениями 
оперировать, как я понимаю. 
 
Вы понимаете о чём я волнуюсь - сейчас быстрая утечка памяти в любой программе 
вызвает ступор системы минут на 10. 

Возможно, не хватает возможности задавать не абсолютные значения, а процентные?

Настройка на хосте (желающими), installer-feature (чревато), модуль для alterator (останется в неизвестности), контейнеры (опять на любителя), monit (с %)...

В общем, вариантов много, но при именно такой постановке задачи не уверен, что хотя бы один из них может оказаться дистрибутивным.

С другой стороны, OOM killer за это время набил руку.

Предлагаю wontfix.

Хочу сказать, что за прошедшие 7 лет ничего толком не изменилось.
Но поскольку проблема всё же не в установке лимитов, а если их и устанавливать, то не через этот механизм, то закрываю.