Если Вы создали форму при помощи сниппета AjaxForm в модальном окне и нужно автоматически закрыть его после успешной отправки формы используйте следующий js скрипт

$(document).on('af_complete', function(event, response) {
    if (response.success) {
        $('#modal-callback').modal('hide');
    }
});

Где '#modal-callback' - id модального окна