银行可以向股东乙的配偶进行追偿，因为在贷款时签订的个人连带担保责任合同是在婚姻续存之间，也就是说，这是夫妻的共同债务，要承担的。