개발야옹

🌼 Dynamic Programming (다이나믹 프로그래밍/동적 계획법)

🌼 다이나믹프로그래밍

• 메모리를 적절히 사용하여 수행 시간 효율성을 비약적으로 향상시키는 방법
• 이미 계산된 결과(작은 문제)는 별도의 메모리 영역에 저장하여 다시 계산하지 않도록 한다.
• DP의 구현은 일반적으로 두 가지가 있다.
  • 상향식(Bottom Up)
  • 하향식(Top Down)
• 다이나믹 프로그래밍은 동적 계획법이라고도 부른다.
• 프로그래밍 분야에서의 Dynamic?
  • 자료구조에서 동적 할당(Dynamic Allocation)은 '프로그래밍 실행되는 도중 필요한 메모리할당 기법'이다.
  • 반면, Dynamic Programming의 Dynamic은 별다른 의미 없이 사용한다.

🌼 다이나믹프로그래밍의 조건

• 다이나믹 프로그래밍은 문제가 다음의 조건을 만족할 때 사용할 수 있다.

1. 최적 부분 조건(Optimal Substructure):
   • 큰 문제를 작은 문제로 나눌 수 있으며, 작은 문제의 답을 모아서 큰 문제를 해결할 수 있다.
2. 중복되는 부분 문제(Overlapping Subproblem)
   • 동일한 작은 문제를 반복적으로 해결해야 한다.

🌼 피보나치 수열

• 피보나치 수열은 다음과 같은 형태의 수열이며, 다이나믹 프로그래밍으로 효과적으로 계산할 수 있다.

1 1 2 3 5 8 13 21 34 55 89 ...

• 점화식이란 인접한 항들의 관계식을 의미
• 피보나치 수열의 점화식
  • An = An-1 + An-2, A1 = 1, A2 = 1
•  피보나치 수열이 계산되는 과정은 다음과 같이 표현할 수 있다.
• n번째 피보나치 수를 f(n)이라고 할 때, 4번째 피보나치수 f(4)를 구하는 과정은 다음과 같다.

def fibo(x):
	if x == 1 or x == 2:
    	return 1
	return fibo(x-1) + fibo(x-2)
print(fibo(4))

🌼 피보나치 수열의 시간복잡도

• 단순 재귀함수로 구현하게 되면 지수 시간 복잡도를 가지게 된다.
• f(x)가 여러번 호출되는 것을 확인할 수 있다. (중복되는 문제)
• 시간복잡도: O(2^N)

🌼 피보나치 수열의 효율적인 해법: 다이나믹 프로그래밍

• DP 사용조건을 만족하는지 확인
  • 최적부분구조: 큰 문제를 작은 문제로 나눌 수 있다.
  • 중복되는문제: 동일한 작은 문제를 반복적으로 해결
• 피보나치수열은 DP 사용 조건을 만족한다.

🌼 메모제이션(memozation)

• 메모제이션은 DP 구현 방법중 하나이다.
• 한번 해결한 결과를 메모리제 저장하는 기법
• 같은 문제를 다시 호출하면 메모했던 결과를 그대로 가져옴.
• 값을 기록해 놓는다는 점에서 캐싱(Caching)이라고도 한다.

🌼 Top Down vs Bottom Up

• 탑다운(메모제이션) 방식은 하향식이라고도 하며, 바텀업은 상향식이라고도 한다.
• DP의 전형적인 형태는 바텀업 방식이다.
  • 결과 저장용 리스트는 DP 테이블이라고 부른다.
• 엄밀히 말하면 메모제이션은 이전에 계산된 결과를 일시적으로 저장해 놓는 개념을 의미한다.
  • 따라서 메모제이션은 DP에 국한된 개념은 아니다.
  • 한번 계산된 결과를 담아 놓기만하고 DP에 활용하지 않을 수도 있다.

1️⃣ Top Down(하향식)

dp = [0] * 100

def fibo(x):
	if x == 1 or x == 2:
    	return 1
	if dp[x] != 0:
    	return dp[x]
	dp[x] = fibo(x-1) + fibo(x-2)
    return dp[x]

2️⃣ Bottom Up(상향식)

dp = [0] * 100

d[1] = 1
d[2] = 1

for x in range(3, n + 1):
	dp[x] = dp[x-1] + dp[x-2]
print(dp[n])

🌼 다이나믹프로그래밍 vs 분할정복

• DP와 분할정복은 모두 최적 부분 구조를 가질 때 사용할 수 있다.
• 큰 문제를 작은 문제로 나눌 수 있으며, 작은 문제의 답을 모아서 큰 문제를 해결할 수 있는 상황
• DP와 분할정복의 차이점은 부분문제의 중복이다.
• 분할정복은 동일한 부분 문제가 반복적으로 계산되지 않는다.

• 분할 정복의 대표적인 예시인 퀵정렬을 살펴보겠다.
  • 한 번의 기준 원소(Pivot)가 자리를 변경해서 자리를 잡으면 그 기준 원소의 위치는 바뀌지 않는다.
  • 분할 이후에 해당 Pivot을 다시 처리하는 부분 문제는 호출하지 않는다.

🌼 DP문제에 접근하는 방법

• 주어진 문제가 다이나믹 프로그래밍 유형임을 파악하는 것이 중요하다.
• 가장 먼저, 그리디, 구현, 완전탐색 등의 아이디어로 문제를 해결할 수 있는지를 검토
  • 다른 알고리즘 풀이가 떠오르지 않는다면 DP를 고려
• 일단 재귀함수로 비효율적인 완전탐색 프로그램을 작성한 뒤에(탑다운) 작은문제에서 구한 답이 큰 문제에서 그래도 사용될수 있으면, 코드를 개선
• 일반적인 코딩테스트 수준에서는 기본 유형의 DP 문제를 출제

🌼 이전 내용

1. 다익스트라 알고리즘 이론 및 구현 코드
2. 플로이드 워셜 알고리즘 이론 및 구현 코드

🌼 최단 경로 알고리즘 기초 문제 풀이

📄 <문제 1> 전보: 문제 설명

• 어떤 나라에는 N개의 도시가 있다. 그리고 각 도시는 보내고자 하는 메시지가 있는 경우, 다른 도시로 전보를 보내서 다른 도시로 해당 메시지를 전송할 수 있다.
• 하지만 X라는 도시에서 Y라는 도시로 전보를 보내고자 한다면, 도시 X에서 Y로 향하는 통로가 설치되어 있어야 한다. 
• 예를 들어 X에서 Y로 향하는 통로는 있지만, Y에서 X로 향하는 통로가 없다면 Y는 X로 메시지를 보낼 수 없다. 또한 통로를 거쳐 메시지를 보낼 때는 일정 시간이 소요된다.
• 어느날 C라는 도시에서 위급 상황이 발생했다. 그래서 최대한 많은 도시로 메시지를 보내고자 한다.
• 메시지는 도시 C에서 출발하여 각 도시 사이에 설치된 통로를 거쳐, 최대한 많이 퍼져나갈 것이다.
• 각 도시의 번호와 통로가 설치되어 있는 정보가 주여졌을 때, 도시 C에서 보낸 메시지를 받게 되는 도시의 개수는 총 몇 개이며 도시들이 모두 메시지를 받는 데까지 걸리는 시간은 얼마인지 계산하는 프로그램을 작성하시오.
• 시간제한: 1초
• 메모리 제한: 128MB
• 입력 조건
  • 첫째 줄에 도시의 개수 N, 통로의 개수 M, 메시지를 보내고자 하는 도시 C가 주어진다.
  • (1 <= N <= 30000, 1 <= M <= 200000, 1 <= C <= N)
  • 둘째 줄부터 M+1번째 줄에 걸쳐서 통로에 대한 정보 X, Y, Z가 주어진다. 이는 특정 도시 X에서 다른 특정 도시 Y로 이어지는 통로가 있으며, 메시지가 전달되는 시간이 Z라는 의미이다.
  • (1 <= X, Y <= N, 1 <= Z <= 1000)
• 출력 조건
  • 첫째 줄에 도시 C에서 보낸 메시지를 받는 도시의 총 개수와 총 걸리는 시간을 공백으로 구분하여 출력한다.

💡<문제 1> 전보: 문제 해결 아이디어

• 핵심 아이디어: 한 도시에서 다른 도시까지의 최단 거리 문제로 치환할 수 있다.
• N과 M의 범위가 충분히 크기 때문에 우선순위 큐를 활용한 다익스트라 알고리즘을 구현한다.

✅ <문제 1> 정답 코드

import heapq
from sys import stdin

input = stdin.readline

def dijkstra(start):
    q = []
    # 시작 노드로 가기 위한 최단 거리는 0으로 설정하여, 큐에 삽입
    heapq.heappush(q, (0, start))
    distance[start] = 0

    while q:
        # 가장 최단 거리가 짧은 노드에 대한 정보를 꺼내기
        dist, now = heapq.heappop(q)
        if distance[now] < dist:
            continue
        for i in graph[now]:
            cost = dist + i[1]
            if cost < distance[i[0]]:
                heapq.heappush(q, (cost, i[0]))

# 노드의 개수, 간선의 개수, 시작 노드를 입력받기
n, m, start = map(int, input().split())

# 각 노드에 연결되어 있는 노드에 대한 정보를 담는 리스트를 만들기
graph = [[] for _ in range(n + 1)]

# 최단 거리 테이블을 모두 무한으로 초기화
INF = int(1e9)

distance = [INF] * (n + 1)

# 모든 간선 정보 입력 받기
for _ in range(m):
    x, y, z = map(int, input().split())
    # x번 노드에서 y번 노드로 가는 비용이 z라는 의미
    graph[x].append((y, z))

# 다익스트라 알고리즘 수행
dijkstra(start)

# 도달할 수 있는 노드의 개수
count = 0

# 도달할 수 있는 노드 중에서, 가장 멀리 있는 노드와의 최단 거리
max_distance = 0
for d in distance:
    # 도달할 수 있는 노드인 경우
    if d != INF:
        count += 1
        max_distance = max(max_distance, d)
# 시작 노드는 제외해야 하므로 count - 1을 추렭
print(count - 1, max_distance)

📄 <문제 2> 미래 도시: 문제 설명

• 미래 도시에는 1번부터 N번까지의 회사가 있는데 특정 회사끼리는 서로 도로를 통해 연결되어 있다. 방문 판매원 A는 현재 1번 회사에 위치해 있으며, X번 회사에 방문해 물건을 판매하고자 한다.
• 미래 도시에서 특정 회사에 도착하기 위한 방법은 회사끼리 연결되어 있는 도로를 이용하는 방법이 유일하다. 
• 또한 연결된 2개의 회사는 양방향으로 이동할 수 있다. 공중 미래 도시에서 특정 회사와 다른 회사가 도로로 연결되어 있다면, 정확히 1만큼의 시간으로 이동할 수 있다.
• 또한 오늘 방문 판매원 A는 기대하던 소개팅에도 참석하고자 한다.
• 소개팅의 상대는 K번 회사에 존재한다. 방문 판매원 A는 X번 회사에 가서 물건을 판매하기 전에 소개팅 상대의 회사에 찾아가서 함께 커피를 마실 예정이다. 따라서 방문 판매원 A는 1번 회사에서 출발하여 K번 회사를 방문한 뒤에 X번 회사로 가는 것이 목표이다.
• 이때 방문 판매원 A는 가능한 한 빠르게 이동하고자 한다.
• 방문 판매원이 회사 사이를 이동하게 되는 최소 시간을 계산하는 프로그램을 작성하시오.

• 시간제한: 1초
• 메모리 제한: 128MB
• 입력 조건
  • 첫째 줄에 회사의 개수 N과 경로의 개수 M이 공백으로 구분되어 차례대로 주어진다. (1 <= N, M <= 100)
  • 둘째 줄부터 M+1번째 줄에는 연결된 두 회사의 번호가 공백으로 구분되어 주어진다.
  • M + 2번째 줄에는 X와 K가 공백으로 구분되어 차례대로 주어진다. (1 <= K <= 100)
  • (1 <= X, Y <= N, 1 <= Z <= 1000)
• 출력 조건
  • 첫째 줄에 방문 판매원 A가 K 번 회사를 거쳐 X번 회사로 가는 최소 이동 시간을 출력한다.
  • 만약 X번 최사에 도달할 수 없다면 -1을 출력한다.

💡<문제 2> 미래 도시: 문제 해결 아이디어

• 핵심 아이디어: 전형적인 최단 거리 문제이므로 최단 거리 알고리즘을 이용해 해결한다.
• N의 크기가 최대 100이므로 플로이드 워셜 알고리즘을 이용해도 효율적으로 해결할 수 있다.
• 플로이드 워셜 알고리즘을 수행한 뒤에 (1번 노드에서 X까지의 최단 거리 + X에서 K까지의 최단 거리)를 계산하여 출력하면 정답 판정을 받을 수 있다.

✅ <문제 2> 정답 코드

from sys import stdin

input = stdin.readline

N, M = map(int, input().split())

INF = int(1e9)

distance = [[INF] * (N+1) for _ in range(N+1)]
for i in range(N+1):
    for j in range(N+1):
        if i == j:
            distance[i][j] = 0


for _ in range(M):
    x, y = map(int, input().split())
    distance[x][y] = 1
    distance[y][x] = 1

for k in range(1, N+1):
    for i in range(1, N+1):
        for j in range(1, N+1):
            distance[i][j] = min(distance[i][j], distance[i][k] + distance[k][j])

X, K = map(int, input().split())

if distance[K][X] == INF:
    print(-1)
else:
    print(distance[1][K] + distance[K][X])

🌼 Floyd-Warshall Algorithm (플로이드 워셜 알고리즘)

🌼 플로이드 워셜 알고리즘

• 모든 노드에서 다른 모든 노드까지의 최단 경로를 모두 계산
• 플로이드 워셜 알고리즘은 다익스트라 알고리즘과 마찬가지로 단계별로 거쳐가는 노드를 기준으로 알고리즘을 수행한다.
  • 다만, 매 단계마다 방문하지 않은 노드 중에 최단거리를 갖는 노드를 찾는 과정이 필요하지 않다플로이드 워셜은 2차원 테이블에 최단거리 정보를 계산한다.
• 플로이드 워셜은 2차원 테이블에 최단거리 정보를 계산한다.
• 플로이드 워셜 알고리즘은 DP 유형에 속한다.
• 각 단계마다 특정한 노드 K를 거쳐가는 경로를 확인한다.
  • a에서 b로 가는 최단 거리보다 a에서 k를 거쳐 b로 가는 거리가 더 좋은지 검사
• 점화식
  • Dab = min(Dab, Dak + Dkb)

🌼 플로이드 워셜 알고리즘: 동작과정 살펴보기

• [초기상태] 그래프를 준비하고, 최단거리 테이블 초기화

• [Step1] 1번 노드를 거쳐가는 경우를 고려하여 테이블을 갱신

위 단계를 반복

🌼 플로이드 워셜 알고리즘 구현 코드

INF = int(1e9) # 무한을 의미하는 값으로 10억을 설정

# 노드의 개수 및 간선의 개수를 입력받기
n = int(input())
m = int(input())

# 2차원 리스트(그래프 표현)를 만들고, 무한으로 초기화
graph = [[INF] * (n + 1) for _ in range(n + 1)]

# 자기 자신에서 자기 자신으로 가는 비용은 0으로 초기화
for i in range(1, n + 1):
    for j in range(1, n + 1):
        if i == j:
            graph[i][j] = 0

# 각 간선에 대한 정보를 입력 받아, 그 값으로 초기화
for _ in range(m):
    # A에서 B로 가는 비용은 C라고 설정
    a, b, c = map(int, input().split())
    graph[a][b] = c

# 점화식에 따라 플로이드 워셜 알고리즘을 수행
for k in range(1, n + 1):
    for a in range(1, n + 1):
        for b in range(1, n + 1):
            graph[a][b] = min(graph[a][b], graph[a][k] + graph[k][b])

# 수행된 결과를 출력
for a in range(1, n + 1):
    for b in range(1, n + 1):
        # 도달할 수 없는 경우, 무한이라고 출력
        if graph[a][b] == INF:
            print('INFINITY', end=' ')
        else:
            print(graph[a][b], end=' ')
    print()

🌼 Dijkstra Algorithm(다익스트라 알고리즘) 최단경로 알고리즘

🌼 최단 경로 알고리즘

• 최단 경로 알고리즘은 가장 짧은 경로를 찾는 알고리즘을 의미한다.
• 다양한 문제 상황
  • 한 지점에서 다른 한 지점까지의 최단 경로
  • 한 지점에서 다른 모든 지점까지의 최단 경로
  • 모든 지점에서 모든 지점까지의 최단 경로
• 각 지점은 그래프에서 노드로 표현
• 지점 간 연결된 도로는 그래프에서 간선으로 표현

🌼 다익스트라 최단 경로 알고리즘 개요

• 특정 노드에서 출발하여 다른 모든 노드로 가는 최단 경로를 계산한다.
• 다익스트라 최단 경로 알고리즘은 음의 간선이 없을 때 정상적으로 동작
  • 현실세계의 도로는 음의 간선으로 표현되지 않음
• 다익스트라 최단 경로 알고리즘은 그리디 알고리즘으로 분류된다.
  • 매 상황에서 가장 비용이 적은 노드를 선택해 임의의 과정을 반복

🌼 다익스트라 동작 과정

1. 출발 노드를 설정한다.
2. 최단 서리 테이블을 초기화한다.
3. 방문하지 않은 노드중에서 최단 거리가 가장 짧은 노드를 선택한다.
4. 해당 노드를 거쳐 다른 노드로 가는 비용을 계산하여 최단 거리 테이블을 갱신한다.
5. 위 과정에서 3번과 4번의 과정을 반복한다.

🌼 다익스트라 알고리즘의 특징

• 그리디 알고리즘: 매 상황에서 방문하지 않은 가장 비용이 적은 노드를 선택해 임의의 과정을 반복
• 단계를 거치며 한 번 처리된 노드의 최단거리는 고정되어 더 이상 바뀌지 않는다.
  • 한 다계당 하나의 노드에 대한 최단거리를 확실히 찾는 것
• 다익스트라 알고리즘을 수행한 뒤에 테이블에 각 노드까지의 최단거리 정보가 저장된다.
  • 완변한 형태의 최단 경로를 구하려면 소스코드에 추가적인 기능을 더 넣어야 한다.

🌼 다익스트라 알고리즘: 간단한 구현 방법

• 단계 마다 방문하지 않은 노드 중에서 최단 거리가 가장 짧은 노드를 선택하기 위해 매 단계마다 1차원 테이블의 모든 원소를 확인(순차 탐색)

from sys import stdin
input = stdin.readline
INF = int(1e9) # 무한을 의미하는 10억을 설정

# 노드의 개수, 간선의 개수를 입력받기
n, m = map(int, input().split())

# 시작 노드 번호를 입력받기
start = int(input())

# 각 노드에 연결되어 있는 노드에 대한 정보를 담는 리스트를 만들기
graph = [[] for _ in range( n + 1 )]

# 방문한 적이 있는지 체크하는 목적의 리스트를 만들기
visited = [False] * ( n + 1 )

# 최단 거리 테이블을 모두 무한으로 초기화
distance = [INF] * (n + 1)

# 모든 간선 정보를 입력받기
for _ in range(m):
    a, b, c = map(int, input().split())
    graph[a].append((b,c))

# 방문하지 않은 노드 중에서, 가장 최단 거리가 짧은 노드의 번호를 반환
def get_smallest_node():
    min_value = INF
    index = 0 # 가장 최단 거리가 짧은 노드(인덱스)
    for i in range(1, n+1):
        if distance[i] < min_value:
            min_value = distance[i]
            index = i
    return index

def dijkstra(start):
    # 시작 노드에 대해서 초기화
    distance[start] = 0
    visited[start] = True

    for j in graph[start]:
        distance[j[0]] = j[1]

    # 시작 노드를 제외한 전체 n -1 개의 노드에 대해 반복
    for i in range(n - 1):
        # 현재 최단 거리가 가장 짧은 노드를 꺼내서, 방문 처리
        now = get_smallest_node()
        visited[now] = True
        # 현재 노드와 연결된 다른 노드를 확인
        for j in graph[now]:
            cost = distance[now] + j[1]
            # 현재 노드를 거쳐서 다른 노드로 이동하는 거리가 더 짧은 경우
            if cost < distance[j[0]]:
                distance[j[0]] = cost

# 다익스트라 알고리즘을 수행
dijkstra(start)

# 모든 노드로 가기 위한 최단 거리를 출력
for i in range(1, n + 1):
    if distance[i] == INF:
        print("INFINITY")
    else:
        print(distance[i])

🌼 다익스트라 알고리즘: 간단한 구현 방법 - 성능 분석

• 총 O(V)번에 걸쳐서 최단거리가 가장 짧은 노드를 매번 선형탐색
• 따라서 전체 시간복잡도는 O(V^2)이다.
• 일반적으로 코딩테스트의 최단경로 문제에서 전체 노드의 수가 5000개 이하 이면 이 간단한 구현 방법으로도 가능하다.
  • 그러나 노드가 10000개 이상이라면?
    • heapq 자료구조를 이용해야 한다.

🌼 우선순위 큐 (Prioirity Queue)

• 우선순위가 가장 높은 데이터를 가장 먼저 삭제하는 자료구조이다.

🌼 힙 (Heap)

• 우선순위큐를 구현하기 위해 사용하는 자료구조 중 하나이다.
• 최소힙(Min Heap)과 최대힙(Max Heap)이 있다.
• 다익스트라를 포함해 다양한 알고리즘에 사용된다.

🌼 힙 라이브러리 사용 예제: 최소힙

import heapq

def heapsort(iterable):
	h = []
    result = []
    
    for value in iterable:
    	heapq.heappush(h, value)
	for i in range(len(h)):
    	result.append(heapq.heappop(h))
	return result
    
result = heapsort([1,3,5,7,9,2,4,6,8,0])
print(result)

# [0, 1, 2, 3, 4, 5, 6, 7, 8, 9]

🌼 다익스트라 알고리즘 - 개선된 구현 방법

• 단계마다 방문하지 않은 노드중에 최단거리가 가장 짧은 노드를 선택하기 위해 힙(heap) 자료구조를 이용한다.
• 다익스트라 알고리즘이 동작하는 기본 원리는 동일하다
  • 현재 가장 가까운 노드를 저장해 놓기 위해서 힙 자료구조를 추가적으로 이용한다는 점이 다르다.
  • 현재의 최단 거리가 가장 짧은 노드를 선택해야 하므로 최소 힙을 사용한다.

import heapq
from sys import stdin

input = stdin.readline
INF = int(1e9) # 무한을 의미하는 값으로 10억을 설정

# 노드의 개수, 간선의 개수를 입력받기
n, m = map(int, input().split())

# 시작 노드 번호를 입력받기
start = int(input())

# 각 노드에 연결되어 있는 노드에 대한 정보를 담는 리스트를 만들기
graph = [[] for _ in range(n + 1)]

# 최단 거리 테이블을 모두 무한으로 초기화
distance = [INF] * (n + 1)

# 모든 간선 정보를 입력받기
for _ in range(m):
    a, b, c = map(int, input().split())
    # a번 노드에서 b노드로 가는 비용이 c라는 의미
    graph[a].append((b,c))

def dijkstra(start):
    q = []
    # 시작 노드로 가기 위한 최단 경로는 0으로 설정하여, 큐에 삽입
    heapq.heappush(q, (0, start))
    distance[start] = 0
    while q: # 큐가 비어있지 않다면
        # 가장 최단 거리가 짧은 노드에 대한 정보 꺼내기
        dist, now = heapq.heappop(q)
        # 현재 노드가 이미 처리된 적이 있는 노드라면 무시
        if distance[now] < dist:
            continue
        # 현재 노드를 거쳐서, 다른 노드로 이동하는 거리가 더 짧은 경우
        for i in graph[now]:
            cost = dist + i[1]
            # 현재 노드를 거쳐서, 다른 노드로 이동하는 거리가 더 짧은 경우
            if cost < distance[i[0]]:
                distance[i[0]] = cost
                heapq.heappush(q, (cost, i[0]))

# 다익스트라 알고리즘을 수행
dijkstra(start)

# 모든 노드로 가기 위한 최단 거리를 출력
for i in range(1, n + 1):
    # 도달할 수 없는 경우, 무한 이라고 출력
    if distance[i] == INF:
        print('INFINITY')
    else:
        print(distance[i])