Regresión lineal multivariante en Python

Estoy buscando un paquete de Python que implemente la regresión lineal multivariante.

(Nota terminológica: la regresión multivariada trata el caso donde hay más de una variable dependiente, mientras que la regresión múltiple trata el caso donde hay una variable dependiente pero más de una variable independiente).

Todavía puede usar sklearn.linear_model.LinearRegression . Simplemente haga que la salida sea yuna matriz con tantas columnas como variables dependientes. Si desea algo no lineal , puede probar diferentes funciones básicas, usar características polinómicas o usar un método diferente para la regresión (como un NN).

$seq =(d_1,...,d_N)$$Sum(seq) = \sum^N_{i=1} \leq D$$(1,2,3)$$x_1 x_2^2 x_3^3$

El código para obtener las tuplas es:

def generate_all_tuples_for_monomials(N,D):
    if D == 0:
        seq0 = N*[0]
        sequences_degree_0 = [seq0]
        S_0 = {0:sequences_degree_0}
        return S_0
    else:
        # S_all = [ k->S_D ] ~ [ k->[seq0,...,seqK]]
        S_all = generate_all_tuples_for_monomials(N,D-1)# S^* = (S^*_D-1) U S_D
        print(S_all)
        #
        S_D_current = []
        # for every prev set of degree tuples
        #for d in range(len(S_all.items())): # d \in [0,...,D_current]
        d = D-1
        d_new = D - d # get new valid degree number
        # for each sequences, create the new valid degree tuple
        S_all_seq_for_deg_d = S_all[d]
        for seq in S_all[d]:
            for pos in range(N):
                seq_new = seq[:]
                seq_new[pos] = seq_new[pos] + d_new # seq elements dd to D
                if seq_new not in S_D_current:
                    S_D_current.append(seq_new)
        S_all[D] = S_D_current
        return S_all

entonces debería ser fácil hacer regresión si conoces álgebra lineal.

c = pseudo_inverse(X_poly)*y

ejemplo. Sin embargo, probablemente sea mejor hacer una regresión lineal regularizada si está interesado en la generalización.

Agradecimientos a Yuval es el intercambio de CS por la ayuda.