action #179317
closedcoordination #161414: [epic] Improved salt based infrastructure management
[osd] openQA does not pick up most scheduled jobs, sluggish start, multiple failures on 2025-03-21
Added by waynechen55 14 days ago. Updated 10 days ago.
0%
Description
Observation¶
There are many scheduled test runs and, at the same time, many idle ipmi workers. But these workers do not pick up scheduled jobs to run.
Steps to reproduce¶
- Schedule test runs with ipmi workers
- Wait for it to be picked up by idle workers
Impact¶
All test runs can not start
Problem¶
Looks like something wrong with workers
Suggestions¶
- Check workers states
- Check workers machines
Workaround¶
n/a
Files
scheduled_jobs.png (60.5 KB) scheduled_jobs.png | waynechen55, 2025-03-21 03:11 | ||
idle_ipmi_workers.png (119 KB) idle_ipmi_workers.png | waynechen55, 2025-03-21 03:11 | ||
37_jobs_running.png (31.2 KB) 37_jobs_running.png | waynechen55, 2025-03-21 06:40 |
Updated by okurz 13 days ago
- Category set to Support
- Assignee set to okurz
- Target version set to Ready
Hi, did you check https://openqa.suse.de/tests how many jobs are running? I assume OSD is in the global job limit so only up to 330 jobs can run at a time
Updated by waynechen55 13 days ago
- File 37_jobs_running.png 37_jobs_running.png added
okurz wrote in #note-1:
Hi, did you check https://openqa.suse.de/tests how many jobs are running? I assume OSD is in the global job limit so only up to 330 jobs can run at a time
Only 37 jobs running:
Updated by okurz 13 days ago
- Tags set to infra, reactive work, osd
- Subject changed from [openQA][worker][ipmi] idle ipmi workers do not pick up scheduled jobs to [osd] openQA does not pick up most scheduled jobs, sluggish start, multiple failures on 2025-03-21
- Status changed from New to In Progress
- Priority changed from Normal to Urgent
Multiple other problems also observed and other user reports. Multiple services reported that postgresql only allows superuser connections. I restarted postgresql as well as openqa-{webui,scheduler,websockets,gru} and jobs seem to be picked up now. And I retried multiple jobs on https://openqa.suse.de/minion/jobs
Updated by okurz 13 days ago
Multiple openQA jobs were still endlessly waiting for minion jobs of task "git_clone" to be executed but the according minion jobs failed and it seems the openQA jobs were never updated. I walked over https://openqa.suse.de/minion/jobs?state=failed and retried 100 job. Multiple failures in obs_rsync_run probably due to incorrect repository metadata in the openqa-sync-and-trigger configuration. Also I observed that again /etc/openqa/openqa.ini was corrupted with null bytes as well as incomplete keys and sections. Recovered that from backup and restarted services again.
Updated by okurz 13 days ago
- Related to action #176175: [alert] Grafana failed to start due to corrupted config file added
Updated by okurz 13 days ago
- Due date set to 2025-04-04
- Status changed from In Progress to Feedback
- Priority changed from Urgent to High
Generally the situation has stabilized. There is still a firing alert though
https://suse.slack.com/archives/C02AJ1E568M/p1742567771058469
do you have an idea how we could make the alert https://monitor.qa.suse.de/alerting/grafana/d949dbae-8034-4bf4-8418-f148dfcaf89d/view recover quicker? Right now the root alert condition isn't present anymore but the alert looks at all 5xx responses from last 24h meaning that it takes up to 24h to go back to normal.
Updated by tinita 13 days ago · Edited
https://openqa.suse.de/tests/17113937
State: scheduled, waiting for background tasks (id: 40287864, name: git_clone), created about 14 hours ago
Problem is, there is an entry in gru_tasks
and ~gru_dependencies`, but no corresponding minion job exists.
openqa=> select * from gru_tasks where id = 40287864;
id | taskname | args | run_at | priority | t_created | t_updated
----------+-----------+-----------------------------------------------------------------------------------------------------------------------+---------------------+----------+---------------------+---------------------
40287864 | git_clone | [{"\/var\/lib\/openqa\/share\/tests\/sle":null,"\/var\/lib\/openqa\/share\/tests\/sle\/products\/sle\/needles":null}] | 2025-03-21 00:30:20 | 10 | 2025-03-21 00:30:20 | 2025-03-21
00:30:20
(1 row)
openqa=> select * from gru_dependencies where job_id = 17113937;
job_id | gru_task_id
----------+-------------
17113937 | 40287864
(1 row)
openqa=> select * from minion_jobs where task='git_clone'and notes::varchar like '%40287864%' limit 1;
id | args | created | delayed | finished | priority | result | retried | retries | started | state | task | worker | queue | attempts | parents | notes | expires | lax
----+------+---------+---------+----------+----------+--------+---------+---------+---------+-------+------+--------+-------+----------+---------+-------+---------+-----
(0 rows)
There are 82 jobs with the same gru_task_id. Will delete those entries now.
View details...View details...
openqa=> select concat('https://openqa.suse.de/t', job_id), gru_task_id from gru_dependencies where gru_task_id = 40287864;
concat | gru_task_id
----------------------------------+-------------
https://openqa.suse.de/t17113925 | 40287864
https://openqa.suse.de/t17113926 | 40287864
https://openqa.suse.de/t17113927 | 40287864
https://openqa.suse.de/t17113928 | 40287864
https://openqa.suse.de/t17113929 | 40287864
https://openqa.suse.de/t17113930 | 40287864
https://openqa.suse.de/t17113931 | 40287864
https://openqa.suse.de/t17113932 | 40287864
https://openqa.suse.de/t17113933 | 40287864
https://openqa.suse.de/t17113934 | 40287864
https://openqa.suse.de/t17113935 | 40287864
https://openqa.suse.de/t17113936 | 40287864
https://openqa.suse.de/t17113937 | 40287864
https://openqa.suse.de/t17113938 | 40287864
https://openqa.suse.de/t17113939 | 40287864
https://openqa.suse.de/t17113940 | 40287864
https://openqa.suse.de/t17113941 | 40287864
https://openqa.suse.de/t17113942 | 40287864
https://openqa.suse.de/t17113943 | 40287864
https://openqa.suse.de/t17113944 | 40287864
https://openqa.suse.de/t17113945 | 40287864
https://openqa.suse.de/t17113946 | 40287864
https://openqa.suse.de/t17113947 | 40287864
https://openqa.suse.de/t17113948 | 40287864
https://openqa.suse.de/t17113949 | 40287864
https://openqa.suse.de/t17113950 | 40287864
https://openqa.suse.de/t17113951 | 40287864
https://openqa.suse.de/t17113952 | 40287864
https://openqa.suse.de/t17113953 | 40287864
https://openqa.suse.de/t17113954 | 40287864
https://openqa.suse.de/t17113955 | 40287864
https://openqa.suse.de/t17113956 | 40287864
https://openqa.suse.de/t17113957 | 40287864
https://openqa.suse.de/t17113958 | 40287864
https://openqa.suse.de/t17113959 | 40287864
https://openqa.suse.de/t17113960 | 40287864
https://openqa.suse.de/t17113961 | 40287864
https://openqa.suse.de/t17113962 | 40287864
https://openqa.suse.de/t17113963 | 40287864
https://openqa.suse.de/t17113964 | 40287864
https://openqa.suse.de/t17113965 | 40287864
https://openqa.suse.de/t17113966 | 40287864
https://openqa.suse.de/t17113967 | 40287864
https://openqa.suse.de/t17113968 | 40287864
https://openqa.suse.de/t17113969 | 40287864
https://openqa.suse.de/t17113970 | 40287864
https://openqa.suse.de/t17113971 | 40287864
https://openqa.suse.de/t17113972 | 40287864
https://openqa.suse.de/t17113973 | 40287864
https://openqa.suse.de/t17113974 | 40287864
https://openqa.suse.de/t17113975 | 40287864
https://openqa.suse.de/t17113976 | 40287864
https://openqa.suse.de/t17113977 | 40287864
https://openqa.suse.de/t17113978 | 40287864
https://openqa.suse.de/t17113979 | 40287864
https://openqa.suse.de/t17113980 | 40287864
https://openqa.suse.de/t17113981 | 40287864
https://openqa.suse.de/t17113982 | 40287864
https://openqa.suse.de/t17113983 | 40287864
https://openqa.suse.de/t17113984 | 40287864
https://openqa.suse.de/t17113985 | 40287864
https://openqa.suse.de/t17113986 | 40287864
https://openqa.suse.de/t17113987 | 40287864
https://openqa.suse.de/t17113988 | 40287864
https://openqa.suse.de/t17113989 | 40287864
https://openqa.suse.de/t17113990 | 40287864
https://openqa.suse.de/t17113991 | 40287864
https://openqa.suse.de/t17113992 | 40287864
https://openqa.suse.de/t17113993 | 40287864
https://openqa.suse.de/t17113994 | 40287864
https://openqa.suse.de/t17113995 | 40287864
https://openqa.suse.de/t17113996 | 40287864
https://openqa.suse.de/t17113997 | 40287864
https://openqa.suse.de/t17113998 | 40287864
https://openqa.suse.de/t17113999 | 40287864
https://openqa.suse.de/t17114000 | 40287864
https://openqa.suse.de/t17114001 | 40287864
https://openqa.suse.de/t17114002 | 40287864
https://openqa.suse.de/t17114003 | 40287864
https://openqa.suse.de/t17114004 | 40287864
https://openqa.suse.de/t17114005 | 40287864
https://openqa.suse.de/t17114006 | 40287864
(82 rows)
edit: I did
delete from gru_dependencies where gru_task_id = 40287864;
delete from gru_tasks where id = 40287864;
Updated by tinita 13 days ago · Edited
I looked for more possibly waiting jobs:
View details...View details...
openqa=> select id, t_created, concat('https://openqa.suse.de/t', gp.job_id) from gru_tasks gt left join gru_dependencies gp on gt.id=gp.gru_task_id where taskname='git_clone' and t_created < '2025-03-21 02:00:
00' order by t_created;
id | t_created | concat
----------+---------------------+----------------------------------
38299904 | 2024-08-27 14:42:10 | https://openqa.suse.de/t
38299903 | 2024-08-27 14:42:10 | https://openqa.suse.de/t
39929308 | 2025-02-16 03:30:00 | https://openqa.suse.de/t16798704
39929308 | 2025-02-16 03:30:00 | https://openqa.suse.de/t16798703
39929308 | 2025-02-16 03:30:00 | https://openqa.suse.de/t16798702
39947845 | 2025-02-18 05:18:57 | https://openqa.suse.de/t
40285912 | 2025-03-20 21:49:09 | https://openqa.suse.de/t17113633
40285912 | 2025-03-20 21:49:09 | https://openqa.suse.de/t17113634
40286195 | 2025-03-20 22:13:21 | https://openqa.suse.de/t17113636
40286195 | 2025-03-20 22:13:21 | https://openqa.suse.de/t17113635
40286275 | 2025-03-20 22:20:53 | https://openqa.suse.de/t17113637
40286398 | 2025-03-20 22:32:10 | https://openqa.suse.de/t17113641
40286398 | 2025-03-20 22:32:10 | https://openqa.suse.de/t17113640
40286398 | 2025-03-20 22:32:10 | https://openqa.suse.de/t17113639
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113646
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113644
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113647
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113648
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113649
40286404 | 2025-03-20 22:32:15 | https://openqa.suse.de/t17113645
40286753 | 2025-03-20 22:58:56 | https://openqa.suse.de/t17113650
40286756 | 2025-03-20 22:59:17 | https://openqa.suse.de/t17113651
40286806 | 2025-03-20 23:02:52 | https://openqa.suse.de/t17113652
40287413 | 2025-03-20 23:42:07 | https://openqa.suse.de/t17113656
40287482 | 2025-03-20 23:46:52 | https://openqa.suse.de/t17113663
40287482 | 2025-03-20 23:46:52 | https://openqa.suse.de/t17113662
40287482 | 2025-03-20 23:46:52 | https://openqa.suse.de/t17113661
40287484 | 2025-03-20 23:46:59 | https://openqa.suse.de/t17113664
40287489 | 2025-03-20 23:47:07 | https://openqa.suse.de/t17113667
40287489 | 2025-03-20 23:47:07 | https://openqa.suse.de/t17113666
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113681
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113676
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113678
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113675
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113674
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113679
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113680
40287658 | 2025-03-21 00:04:12 | https://openqa.suse.de/t17113677
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113701
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113682
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113683
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113684
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113685
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113686
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113687
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113688
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113689
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113690
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113691
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113692
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113693
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113694
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113695
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113702
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113703
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113704
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113705
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113706
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113696
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113697
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113698
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113699
40287663 | 2025-03-21 00:04:48 | https://openqa.suse.de/t17113700
40287729 | 2025-03-21 00:11:24 | https://openqa.suse.de/t17113707
40287750 | 2025-03-21 00:13:22 | https://openqa.suse.de/t17113708
40287752 | 2025-03-21 00:13:23 | https://openqa.suse.de/t17113710
40287752 | 2025-03-21 00:13:23 | https://openqa.suse.de/t17113709
40287851 | 2025-03-21 00:29:07 | https://openqa.suse.de/t17113711
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113801
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113777
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113778
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113779
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113780
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113781
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113782
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113783
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113784
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113785
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113786
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113787
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113788
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113789
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113790
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113791
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113792
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113793
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113794
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113795
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113796
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113797
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113798
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113799
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113800
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113802
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113803
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113804
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113805
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113806
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113807
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113808
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113809
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113810
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113811
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113812
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113813
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113814
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113815
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113816
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113817
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113818
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113819
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113820
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113821
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113822
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113823
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113824
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113825
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113826
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113827
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113828
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113829
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113830
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113831
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113832
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113833
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113834
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113835
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113836
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113837
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113838
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113839
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113840
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113841
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113842
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113843
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113844
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113845
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113846
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113847
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113848
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113849
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113850
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113851
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113852
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113853
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113854
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113855
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113856
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113857
40287862 | 2025-03-21 00:30:12 | https://openqa.suse.de/t17113858
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114216
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114263
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114264
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114265
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114266
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114267
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114268
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114269
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114270
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114271
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114272
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114273
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114274
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114275
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114276
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114277
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114278
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114279
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114206
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114207
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114208
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114209
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114210
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114211
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114212
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114213
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114214
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114215
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114262
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114217
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114218
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114219
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114220
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114221
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114222
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114223
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114224
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114225
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114226
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114227
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114228
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114229
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114230
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114231
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114232
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114233
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114234
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114235
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114236
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114237
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114238
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114239
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114240
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114241
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114242
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114243
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114244
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114245
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114246
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114247
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114248
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114249
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114250
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114251
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114252
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114253
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114254
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114255
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114256
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114257
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114258
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114259
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114260
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114261
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114149
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114150
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114151
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114152
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114153
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114154
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114155
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114156
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114157
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114158
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114159
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114160
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114161
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114162
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114163
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114164
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114165
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114166
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114167
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114168
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114169
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114170
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114171
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114172
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114173
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114174
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114175
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114176
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114177
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114178
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114179
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114180
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114181
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114182
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114183
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114184
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114185
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114186
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114187
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114188
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114189
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114190
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114191
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114192
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114193
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114194
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114195
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114196
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114197
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114198
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114199
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114200
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114201
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114202
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114203
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114204
40287871 | 2025-03-21 00:30:36 | https://openqa.suse.de/t17114205
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114415
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114421
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114422
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114423
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114424
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114425
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114426
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114416
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114417
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114418
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114419
40287879 | 2025-03-21 00:30:53 | https://openqa.suse.de/t17114420
40287967 | 2025-03-21 00:41:56 | https://openqa.suse.de/t17114427
40287967 | 2025-03-21 00:41:56 | https://openqa.suse.de/t17114430
40287967 | 2025-03-21 00:41:56 | https://openqa.suse.de/t17114428
40287967 | 2025-03-21 00:41:56 | https://openqa.suse.de/t17114431
40287967 | 2025-03-21 00:41:56 | https://openqa.suse.de/t17114429
40287969 | 2025-03-21 00:42:03 | https://openqa.suse.de/t17114434
40287969 | 2025-03-21 00:42:03 | https://openqa.suse.de/t17114433
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114438
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114436
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114439
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114440
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114441
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114442
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114437
40287989 | 2025-03-21 00:44:05 | https://openqa.suse.de/t17114435
40288020 | 2025-03-21 00:48:38 | https://openqa.suse.de/t17114447
40288020 | 2025-03-21 00:48:38 | https://openqa.suse.de/t17114444
40288020 | 2025-03-21 00:48:38 | https://openqa.suse.de/t17114445
40288020 | 2025-03-21 00:48:38 | https://openqa.suse.de/t17114446
40288054 | 2025-03-21 00:52:40 | https://openqa.suse.de/t17114448
40288144 | 2025-03-21 01:06:09 | https://openqa.suse.de/t17114449
40288195 | 2025-03-21 01:13:21 | https://openqa.suse.de/t17114452
40288195 | 2025-03-21 01:13:21 | https://openqa.suse.de/t17114451
40288231 | 2025-03-21 01:22:13 | https://openqa.suse.de/t17114453
40288244 | 2025-03-21 01:26:57 | https://openqa.suse.de/t17114454
40288264 | 2025-03-21 01:33:22 | https://openqa.suse.de/t17114458
40288264 | 2025-03-21 01:33:22 | https://openqa.suse.de/t17114457
40288275 | 2025-03-21 01:34:52 | https://openqa.suse.de/t17114463
40288278 | 2025-03-21 01:35:12 | https://openqa.suse.de/t17114464
40288287 | 2025-03-21 01:37:19 | https://openqa.suse.de/t17114467
40288289 | 2025-03-21 01:37:45 | https://openqa.suse.de/t17114468
40288293 | 2025-03-21 01:38:25 | https://openqa.suse.de/t17114470
40288297 | 2025-03-21 01:38:57 | https://openqa.suse.de/t17114472
40288306 | 2025-03-21 01:39:37 | https://openqa.suse.de/t17114478
40288308 | 2025-03-21 01:40:22 | https://openqa.suse.de/t17114480
40288311 | 2025-03-21 01:40:42 | https://openqa.suse.de/t17114481
40288319 | 2025-03-21 01:41:36 | https://openqa.suse.de/t17114482
40288324 | 2025-03-21 01:42:34 | https://openqa.suse.de/t17114483
40288326 | 2025-03-21 01:43:00 | https://openqa.suse.de/t17114485
40288328 | 2025-03-21 01:43:16 | https://openqa.suse.de/t17114487
40288329 | 2025-03-21 01:43:26 | https://openqa.suse.de/t17114488
40288332 | 2025-03-21 01:44:00 | https://openqa.suse.de/t17114491
40288332 | 2025-03-21 01:44:00 | https://openqa.suse.de/t17114490
40288335 | 2025-03-21 01:44:13 | https://openqa.suse.de/t17114493
(337 rows)
will delete those entries as well.
edit: done.
there were even jobs from last year. but the older jobs were cancelled already.