Если есть необходимость, можно. Только когда верующий подходит к Причастию, сумку надо отставить в сторону, так как во время Причащения руки крестообразно складываются на груди.