Как злоумышленник может сломать программу: новый взгляд на надёжность в программировании

Авторы исследования рассмотрели новый тип угрозы для систем программирования на примерах (PBE): вместо случайных ошибок они изучили ситуацию, когда злоумышленник специально подбирает примеры, способные серьёзно нарушить работу программы. Учёные разработали способы поиска таких опасных примеров и предложили защиту — агрегацию разделов в пространстве версий (VPA). Она объединяет примеры в группы и «голосует» за правильные семантические решения. Эксперименты на разных наборах данных (SyGuS, SYNTRA Playgol v2 и др.) показали, что такая защита работает не всегда — в ряде случаев адаптивный злоумышленник может свести её эффективность к нулю. Тем не менее подход помогает лучше понять границы надёжности PBE-систем.