<?xml version="1.0" encoding="UTF-8" ?>

<bugzilla version="5.2"
          urlbase="https://bugzilla.altlinux.org/"
          
          maintainer="jenya@basealt.ru"
>

    <bug>
          <bug_id>38981</bug_id>
          
          <creation_ts>2020-09-22 16:05:04 +0300</creation_ts>
          <short_desc>MQ для сборочницы и сопутствующих сервисов</short_desc>
          <delta_ts>2021-06-21 01:56:07 +0300</delta_ts>
          <reporter_accessible>1</reporter_accessible>
          <cclist_accessible>1</cclist_accessible>
          <classification_id>2</classification_id>
          <classification>Infrastructure</classification>
          <product>Infrastructure</product>
          <component>girar</component>
          <version>unspecified</version>
          <rep_platform>x86_64</rep_platform>
          <op_sys>Linux</op_sys>
          <bug_status>NEW</bug_status>
          <resolution></resolution>
          
          
          <bug_file_loc></bug_file_loc>
          <status_whiteboard></status_whiteboard>
          <keywords></keywords>
          <priority>P5</priority>
          <bug_severity>enhancement</bug_severity>
          <target_milestone>---</target_milestone>
          
          
          <everconfirmed>1</everconfirmed>
          <reporter name="Anton Farygin">rider</reporter>
          <assigned_to name="placeholder@altlinux.org">placeholder</assigned_to>
          <cc>glebfm</cc>
    
    <cc>iv</cc>
    
    <cc>jenya</cc>
    
    <cc>ldv</cc>
    
    <cc>legion</cc>
    
    <cc>mcpain</cc>
    
    <cc>mike</cc>
    
    <cc>rider</cc>
    
    <cc>sotor</cc>
    
    <cc>viy</cc>
          
          <qa_contact name="Andrey Cherepanov">cas</qa_contact>

      

      

      

          <comment_sort_order>oldest_to_newest</comment_sort_order>  
          <long_desc isprivate="0" >
    <commentid>192748</commentid>
    <comment_count>0</comment_count>
    <who name="Anton Farygin">rider</who>
    <bug_when>2020-09-22 16:05:04 +0300</bug_when>
    <thetext>Предлагаю обсудить вопрос доработки сборочницы таким образом, что бы все события, происходящие в ней могли инициировать процессы как в самой сборочнице, так и в сопутствующих системах (webery, repodb, bugzilla, watch, repocop и тестирование пакетов в стабильные репозитории)

Что хочется получить:
возможность сопутствующим системам узнать о том, что в сборочной системе (и рядом стоящих сервисах) произошли какие-то изменение. Например:
- добавлено/удалено задание
- добавлено/удалено подзадание
- задание стало разделяемым
- изменилось описание (комментарий) к заданию)
- заданию/подзаданию дали/отозвали approve/disapprove
- статус задания изменился (FAILED/DONE/EPERM/PENDING/BUILDING и т.д.)
- ACL пакета изменился
- выложен репозиторий в публичное место (на наш ftp)

т.е. - любое событие в сборочной системе, в факте появления которого могли бы быть заинтересованы внешние сервисы.


Возможно, этот же механизм стоит использовать и для внутренних компонент сборочницы.

Вопрос, на который пока нет ответа: какую систему использовать в качетстве MQ (я знаю только про rabbitmq), насколько она надёжная/кластеризуемая. Какие интерфейсы/API должны быть к ней (какие пожелания) для внешних сервисов. Насколько публичным должен быть интерфейс API ?</thetext>
  </long_desc><long_desc isprivate="0" >
    <commentid>192749</commentid>
    <comment_count>1</comment_count>
    <who name="Anton Farygin">rider</who>
    <bug_when>2020-09-22 16:07:23 +0300</bug_when>
    <thetext>Как происходит сейчас (по крайней мере в большинстве известных мне сервисов):
или опрос по крону вплоть до ssh
или отслеживание писем от girar

Внутри сборочницы есть некий самописный MQ реализованный на файлах/каталогах.</thetext>
  </long_desc><long_desc isprivate="0" >
    <commentid>192751</commentid>
    <comment_count>2</comment_count>
    <who name="Anton Farygin">rider</who>
    <bug_when>2020-09-22 16:15:45 +0300</bug_when>
    <thetext>Возможно, у такой службы есть ещё потенциальные клиенты в виде догоняющих репозиториев, которым задания нужно выгребать по факту их выполнения в основной сборочнице.

Но так же было бы неплохо от догоняющих репозиториев получать информацию для сопутствующих служб, например для систем автоматизации функций отдела тестирования или webery. 

Т.е. - по факту у нас сейчас работает не одна сборочница а несколько параллельных, но при этом только с основной сборочницы задания и репозитории отслеживаются внешними (для сборочницы) службами.

наверное, стоит сразу предусмотреть возможность появления нескольких параллельно действующих сборочных систем, у каждой из которых может быть свои номера и состав сборочных заданий.</thetext>
  </long_desc><long_desc isprivate="0" >
    <commentid>192768</commentid>
    <comment_count>3</comment_count>
    <who name="Ivan A. Melnikov">iv</who>
    <bug_when>2020-09-23 08:19:21 +0300</bug_when>
    <thetext>(In reply to Anton Farygin from comment #1)
&gt; Как происходит сейчас (по крайней мере в большинстве известных мне сервисов):
&gt; или опрос по крону вплоть до ssh
&gt; или отслеживание писем от girar

Для полноты картины упомяну, что робот, копирующий задания в mipsel-ную сборочницу по крону отслеживает $FROM_REPO/index/task.list.</thetext>
  </long_desc>
      
      

    </bug>

</bugzilla>