Селото Баница во колективната меморија на македонскиот народ е врежано и поврзано со убиството на [[Гоце Делчев]] . Тој во предвечерјето на [[илинденското востанијевостание]] на пат кон [[Сер]] , каде требало да го организира Серскиот округ за востанијето, престојувал во С. Баница каде требало да се задржи еден ден. Во Баница пристигнал на 3 мај 1903 година, а утредента требал да продолжи кон Сер на веќе закажаниот Конгрес. Утрината на [[4 мај 1903]] Делчев бил известен дека селото е под опсада на турски аскер кој броел 300 војници, жандарми и башибозук. Гоцевата чета броела 21 четник на кои им се придружиле околу 40 селани од селото. [[Гоце Делчев]] ја прифатил борбата со далеку надбројниот противник. Во борбата Гоце Делчев бил смртно застрелан, а сведок на убиството и учесник во битката бил и македонскиот деец и револуционер [[Димо Хаџи Димов]] кој подоцна известува за петнаесет часовната борба за телото на Гоце Делчев.
