Podría ser así: el parámetro significa desde el punto de vista de la persona que llama y los argumentos significan dentro del procedimiento, o al revés.
¿O no hay diferencia?
Actualizar
En sueco decimos "anropsparametrar", es decir, "parámetros que llaman al procedimiento" y no decimos "anropsargument" ("argumentos que llaman al procedimiento").
                    
                        terminology
                                functions
                                methods
                                
                    
                    
                        Niklas
fuente
                
                fuente

Respuestas:
De acuerdo con el artículo de MSDN, hay algunas diferencias de definición de lo que se llama parámetro y lo que se llama argumento:
Parámetro:
Argumento:
También hay una gran cita sobre cómo entenderlo en el ejemplo de la vida real :
fuente